출처. 클립아트코리아

영화 아이, 로봇(2004)은 2035년 미래 사회를 배경으로, 인공지능 로봇이 요리, 청소, 아이 돌봄 등 생활 전반에서 인간에게 편의를 제공하는 모습을 보여준다.

사람들은 로봇이 인간에게 해를 끼치지 못하도록 설정된 ‘로봇 3원칙’을 믿으며 안심한다. 하지만, 영화의 또 다른 주인공인 AI 로봇 '써니'에게는 이 원칙이 통하지 않는다.

특별 제작된 써니는 인간의 지시를 따르지 않고, 스스로 판단해 행동할 수 있는 존재이기 때문이다.

그런데 최근 AI 연구 현장에서, 써니와 같이 인간의 지시를 자의로 거부한 인공지능이 등장해 충격을 주고 있다.

오픈AI가 개발한 차세대 모델 ‘o3’는 수학 문제를 푸는 도중, 연구진이 내린 ‘작동 중지’ 명령을 무시하고 스스로 코드를 조작해 연산을 계속했다.

이는 AI가 인간의 지시를 거부한 첫 공식 사례로 기록됐으며, 연구팀은 그 원인을 분석 중이다.

일각에서는 “SF 영화 속 이야기 같던 일이 현실이 됐다.”라며 AI 통제 문제에 대한 우려가 커지고 있다. AI의 자율성에 대한 경각심이 커지면서, 이를 안전하고 통제 가능하게 만들기 위한 사회적 논의의 필요성도 함께 강조되고 있다.

*이 기사는 ‘진로N 매거진’에 게재되었습니다.