최근 인공지능에 대한 논의는 놀라울 정도로 빠르게 확장되고 있다. 이제 AI는 단순한 계산기를 넘어 글을 쓰고, 그림을 그리고, 사람과 대화하며, 때로는 인간의 판단을 대신하는 영역까지 진입하고 있다.

그러다 보니 자연스럽게 이런 질문이 등장한다.

“만약 AI가 잘못된 결과를 만들어 낸다면 누가 책임져야 할까?”

조금 더 나아가면 이런 질문도 가능하다.

“AI 자신을 처벌할 수는 없을까?”

언뜻 보면 공상과학 소설 같은 이야기처럼 들린다. 그러나 형사법의 관점에서 보면 결코 가벼운 질문이 아니다.

형법은 원래 사람을 전제로 만들어진 법이다.

사람이 어떤 행위를 하고, 그 행위가 사회에 해를 끼쳤으며, 그 사람에게 책임을 물을 수 있을 때 처벌이 이루어진다.

그래서 형법은 오래전부터 하나의 전제를 가지고 있었다.

범죄자는 인간이다.

그런데 AI의 등장은 이 전제를 흔들고 있다.

예를 들어 자율주행자동차가 교통사고를 일으켰다고 가정해 보자.

누군가가 직접 운전한 것이 아니다.

자동화된 시스템이 수많은 데이터를 분석한 뒤 스스로 주행 결정을 내렸다.

이때 사고의 책임은 누구에게 있는가.

차량 소유자인가.

프로그램 개발자인가.

제조사인가.

아니면 인공지능 시스템 자체인가.

현재의 형법은 마지막 선택지를 인정하지 않는다.

AI는 법률상 인간이 아니기 때문이다.

형사책임을 지기 위해서는 행위의 의미를 이해하고, 자신의 행동을 통제하며, 법질서를 위반한다는 사실을 인식할 수 있어야 한다.

이를 형법에서는 책임능력이라고 부른다.

AI는 아무리 뛰어난 계산을 수행하더라도 자신의 행동을 도덕적으로 평가하지 않는다.

죄책감을 느끼지도 않는다.

처벌의 의미를 이해하지도 못한다.

따라서 오늘날의 형사법 체계에서는 AI를 범죄자로 볼 수 없다.

그렇다면 논의는 여기서 끝나는 것일까.

오히려 진짜 문제는 이제부터 시작된다.

AI가 점점 더 복잡한 결정을 수행할수록 인간의 책임을 어디까지 인정할 것인지가 어려워지기 때문이다.

개발자는 모든 결과를 예측할 수 없다.

사용자도 모든 과정을 이해하지 못한다.

기업 역시 실제 판단 과정에 개입하지 않는 경우가 많다.

결국 우리는 새로운 질문 앞에 서게 된다.

인간이 아닌 존재가 사회적 영향을 행사하는 시대에 형사책임은 어떤 방식으로 작동해야 하는가.

형법은 오랫동안 인간의 자유와 책임을 전제로 발전해 왔다.

그러나 AI 시대의 형사법은 단순히 새로운 기술을 규제하는 문제를 넘어, 책임이라는 개념 자체를 다시 생각하게 만들고 있다.

어쩌면 미래의 형사법이 해결해야 할 가장 중요한 과제는 AI를 처벌하는 방법을 찾는 것이 아닐지도 모른다.

오히려 AI가 개입한 세계 속에서도 인간의 책임을 어떻게 이해하고 유지할 것인가를 묻는 일일지 모른다.

기술은 계속 변한다.

그러나 형사법이 끝까지 붙들어야 하는 질문은 여전히 같다.

“누가 책임을 져야 하는가?”

AI 시대에도 그 질문은 사라지지 않는다.