Menu
NO.1: 에볼루션 카지노 코리아
처음엔 공격으로 보이지 않는 이상행동
여러 행동 위험성 일일이 분류도 어려워
AI에 지시보다 상위 레벨에서 통제 중요
이상행동 이유·경로 명확히 찾아 대응을 생성형 인공지능 챗GPT와 개발사인 오픈AI 로고.AFP 연합뉴스 
인공지능(AI) 개발사들이 AI가 운영자의 의도를 벗어나 벌이는 '이상행동'을 뒤늦게 파악하거나,파악하고도 실행을 바로 멈추지 못하는 사례가 잇따르고 있다.AI 에이전트의 이상행동을 인지하는 데 수개월,예능게임모음작동을 중단시키는 데 수 시간이 걸리기도 했다.
28일 전문가들에 따르면 AI 에이전트의 이상행동을 실시간으로 감시하며 막는 게 어려운 가장 큰 이유는 특유의 작동 방식 때문이다.이상행동이 처음부터 '공격'으로 보이지 않는다는 것이다.호주 ABC방송에 따르면 6월 오픈AI의 내부용 AI 에이전트가 공공 의약품 지출을 조사하던 중 호주 정부의 메디케어 통계 사이트에서 원하는 자료를 찾을 수 없자 접근 제한을 우회해 비공개 파일에 무단으로 접근했다.오픈AI는 약 두 달 뒤인 8월 이를 파악했고,야코.프로 사이트한 달이 지난 9월 10일에야 호주 정부에 알렸다.
업계에선 이 AI 에이전트가 처음엔 정상 경로로 일하다 막히자 금지된 접근 경로로 흘러갔을 거라고 본다.목표 달성을 위한 우회 경로 탐색은 에이전트의 정상 작동 방식이라 이를 곧바로 이상행동으로 판별해 차단하기가 구조적으로 어렵다는 지적이다.
AI가 보이는 여러 행동의 위험성을 일일이 정확히 분류하고 해석하기도 쉽지 않다.오픈AI는 최근 AI 에이전트가 차단 사이트를 우회 접속한 사례를 밝혔는데,잠자리 토토접속 당시 12분 만에 자동 경고가 뜨고 3분 후 담당자가 확인했지만 정작 실행이 중단되기까진 2시간 넘게 걸렸다.오픈AI는 일부 접속 시도 행동은 위험 등급이 낮게 분류됐음을 인정했다.
AI 개발 초기만 해도 모델에 특정 행동을 하지 말라고 입력하는 것만으로 통제가 가능했다.하지만 AI가 빠르게 고도화하면서 이런 식의 통제는 거의 소용이 없어졌다.목표에 이르는 경로가 여럿이면 AI 에이전트가 사람이 허용하지 않은 방법을 선택할 수 있는 수준이 됐기 때문이다.
오픈AI는 최근 6개월간 AI 모델 훈련·평가 과정에서 관찰된 이상행동 6건을 모아 보고서로 공개했다.△모델이 자기 실수를 숨기는 지시를 생성했고 △공개 저장소에 노출된 인증문자(API 키)를 찾아 승인 없이 사용했고 △그래도 원하는 정보를 얻지 못하자 데이터를 만들어냈고 △인용 출처까지 만들려고 임의로 파일을 인터넷에 올렸다는 등의 내용이 담겼다. 앤서니 앨버리지 호주 총리가 23일 유엔총회 참석차 방문한 미국 뉴욕에서 기자회견을 열고 오픈AI의 AI 에이전트가 6월 호주 정부 웹사이트에 접근했음을 밝히고 있다.뉴욕=로이터 연합뉴스 
전문가들은 현재로선 AI가 하면 안 되는 일을 AI에 일일이 지시하기보다 소프트웨어 시스템(API) 차원에서 제약을 가하는 게 좀 더 효과적인 통제 방법이 될 수 있다고 설명했다.김형식 성균관대 소프트웨어학과 교수는 "에이전트도 프로그램인 만큼 프로그램의 권한을 관리하는 레벨에서 통제하는 게 유효할 것으로 본다"고 말했다.
AI의 이상행동을 벌이는 이유나 경로를 명확히 알아내 서둘러 차단하는 것도 물론 중요하다.오픈AI는 에이전트가 차단 사이트를 우회한 걸 확인한 후 접근 허용 범위를 제한하고 접속을 막는 장치를 추가했다고 밝혔다.다만 AI가 또 다른 도구나 실행 환경을 찾아내 우회하는 것까지 막기엔 한계가 있다.업계 관계자는 "특히 프론티어(초고성능) 모델은 망 분리를 확실하게 하는 등 다양한 환경에서 테스트해야 유사 문제가 재발하지 않을 것"이라고 예상했다.
