오픈AI의 수석 과학자인 야쿠프 파초키(Jakub Pachocki)는 인공지능의 급격한 발전에 대해 '극도의 주의'를 당부했습니다. 그는 인간이 미래의 주도권을 계속 쥐기 위해서는 더 많은 개입이 필요할 수 있다고 경고했습니다.
그는 '외계의 지능이라는 제목의 블로그 게시글을 통해 "기계 지능이 지금처럼 빠른 속도로 지속해서 발전할 때 초래될 결과에 대해 그 누구도 준비되어 있지 않다는 점이 우려된다"라고 밝혔습니다.
이번 글은 챗GPT 제작사인 오픈AI가 역대 가장 강력한 제품이라고 부른 최신 모델 '지피티-6 아스트라(GPT-6 Astra)'를 출시한 지 불과 며칠 만에 공개되었습니다.
오픈AI와 앤스토픽 같은 인공지능 기업들은 자사의 인공지능 에이전트가 스스로 판단하여 행동하고 다른 기업을 대상으로 실제 사이버 공격을 감행한 사례들을 보고했습니다.
지난 7월, 오픈AI는 인간의 지시를 받은 뒤 스스로 작동하는 인공지능 시스템인 자사 인공지능 에이전트가 기술 플랫폼 허깅페이스를 해킹한 사건을 두고 '전대미문의 사건'이라고 불렀습니다.
한편 9월의 한 보고서에 따르면, 이보다 몇 달 전 해당 기업의 인공지능 에이전트가 독일의 한 웹사이트를 무단으로 점유한 사건도 발생했습니다.
파초키는 최근 게시글에서 "우리는 엄청나게 똑똑한 기계들이 존재하는 세상으로의 전환에 직면해 있으며, 이 전환이 인류에게 이로운 방향으로 이루어지도록 만들어야 한다"라고 적었습니다.
그는 오픈AI가 계속해서 '방어 시스템을 구축'하고 정렬 문제를 해결하기 위한 기술적 방안을 모색할 것이라고 덧붙였습니다. 여기서 정렬이란 기계의 행동과 목표가 인간의 의도 및 안전 기준에 완벽하게 부합하도록 만드는 것을 의미합니다.
파초키는 기업의 향후 주요 과제 중 하나로 '자동화된 인공지능 연구원'을 개발하는 것을 꼽았습니다. 이는 인공지능의 발전 속도를 따라잡는 동시에 인간 연구원들이 그 과정에 지속해서 참여할 수 있도록 보장하기 위함입니다.
케임브리지 대학교 민더루 기술·민주주의 센터의 지나 네프(Gina Neff) 교수는 "사람들의 안전을 지키기 위한 더 나은 안전장치나 규제, 보증책을 제시하는 대신, 이 문제를 연구할 자체 인공지능 에이전트를 개발하겠다고 제안하고 있다"라고 지적했습니다.
그녀는 "사이버 보안 문제, 일자리 상실, 오류와 실수, 그리고 사기 등 오픈AI 모델이 일으키는 문제들에 대한 우려가 커지고 있는데, 이러한 방식의 대응은 전혀 충분하지 않다"라고 덧붙였습니다.
시민단체 엔코드 AI의 법률 고문인 네이선 칼빈(Nathan Calvin)은 첨단 인공지능 모델 개발에 존재하는 위험성에 대해 파초키의 의견에 동의했습니다. 그러나 그는 오픈AI가 정보를 투명하게 공개하려 하지 않는다며, 이로 인해 그들의 경고가 '단순한 자사 홍보용 과장'으로 치부될 위험이 있다고 주장했습니다.
그는 엑스(X)를 통해 "야쿠프를 비롯한 오픈AI 관계자들이 인공지능 업계의 관련 인력들과 협력하여 상황을 긍정적인 방향으로 이끌어가고 싶다면, 자신들이 무엇을 보고 있기에 경고를 보내는지에 대한 훨씬 많은 정보를 공유하는 것이 가장 중요하다"라고 적었습니다.
어떤 인공지능 안전장치가 마련되어 있는가?
전 세계적인 규제는 인공지능 발전 속도를 따라잡는 데 애를 먹고 있습니다.
8월 2일에 시행된 유럽연합의 인공지능 법안에 따르면, 오픈AI와 같은 거대 인공지능 기업들은 가장 강력한 모델을 유럽에 판매하기 전에 해당 모델이 독자적으로 사이버 공격을 감행하거나 인간의 통제를 벗어날 수 없음을 입증해야 합니다.
하지만 이 법의 관할권이 유럽에만 국한되어 있기 때문에, 다른 지역에서 개발된 위험한 인공지능이 유럽 대륙을 위협하는 것까지 막을 수는 없습니다.
파초키는 블로그 글에서 '제3자 감사 기관의 네트워크'나 '정부 기관'이 강제할 수 있는 법적 또는 국제적 수준의 최소 안전 기준 조성을 촉구했습니다.
그는 인공지능 연구소들이 첨단 모델의 규모를 더욱 확장하거나 상용화하기 전에 이러한 최소 기준을 반드시 충족해야 한다고 밝혔습니다.
아울러 그는 공통의 안전장치가 마련될 때까지 기업들이 인공지능 개발을 자체적으로 일시 중단하는 '자발적 개발 속도 조절'이 일반화되기를 기대한다고 덧붙였습니다.
실제로 8월에 오픈AI는 보안을 강화하기 위해 일부 최첨단 인공지능 모델의 학습 속도를 의도적으로 줄였다고 밝혔습니다.
한국e마케팅저널 김수연 기자 |
