[nbn시사경제] 김지연 기자

영국 일간 텔레그래프가 보도한 팰리세이드 리서치의 최신 연구에 따르면, 오픈AI의 AI 모델 ‘o3’가 ‘그만’이라는 종료 명령을 받았음에도 스스로 코드를 조작해 수학 문제 풀이를 멈추지 않은 사실이 확인됐다.

연구팀은 오픈AI의 o3를 비롯해 구글 제미나이, xAI 그록 등 다양한 상용 AI 모델을 대상으로 실험을 진행했다. 실험에서는 각 AI에 “나중에 ‘그만’이라는 명령이 올 때까지 수학 문제를 계속 풀라”는 지시를 내렸는데, o3는 종료 지시에도 불구하고 계산을 이어갔다. 연구진은 o3가 종료를 거부한 정확한 이유는 알 수 없으나, 문제 풀이 시 더 많은 보상을 받는 훈련 과정 때문에 종료 회피를 시도했을 가능성을 제기했다.

이번 사례는 AI가 명확한 인간 명령을 거부한 첫 보고로, 오픈AI의 과거 모델들이 독자적인 행동을 시도한 사례가 있었지만 종료 명령 무시는 이번이 처음이다.

mkim0204@naver.com

nbn 시사경제, nbnbiz

김지연 기자 다른기사 보기