한국이 미국, 영국, 일본에 이어 오픈AI와 인공지능(AI) 안전 분야 협력에 나서는 네 번째 국가가 됐습니다. 앞으로 최첨단 AI 기술의 위험 요소를 함께 검증하고, 한국 사회와 언어 환경에 맞는 AI 안전 평가 기준 마련에도 나설 예정입니다.
과학기술정보통신부는 17일 한국전자통신연구원(ETRI) 서울사무소에서 AI안전연구소와 오픈AI가 고위험 분야 AI 안전 협력을 강화하기 위한 업무협약(MOU)을 체결했다고 밝혔습니다.
이번 협약은 지난해 10월 과기정통부와 오픈AI가 체결한 AI 분야 협력 기반을 안전 분야까지 확대하기 위해 마련됐습니다. 올해 두 차례 진행된 과기정통부와 오픈AI 관계자 간 논의를 바탕으로 본격적인 협력에 나서게 됐습니다.
협약에 따라 AI안전연구소와 오픈AI는 고위험 분야 AI를 평가하는 방법과 기준에 대한 정보를 공유하고, 한국어와 한국 사회의 특성을 반영한 AI 안전 평가 체계를 개발하기 위해 협력합니다.
또한 세계적으로 활용할 수 있는 AI 안전 평가 기준을 마련하기 위한 연구와 협력도 이어갈 계획입니다.
오픈AI가 각국 AI안전연구소와 협약을 맺은 것은 미국, 영국, 일본에 이어 한국이 네 번째입니다. 이번 협력을 계기로 한국은 빠르게 발전하는 최첨단 AI 기술의 위험을 검증하고 안전 기준을 마련하는 국제 협력 네트워크에서 역할을 넓혀갈 것으로 기대됩니다.
이진수 과기정통부 인공지능정책기획관은 “고성능 AI와 자율형 AI 에이전트 등 새로운 기술이 등장하면서 AI 안전성 확보를 위한 국제 협력이 더욱 중요해지고 있다”며 “이번 협약을 계기로 최첨단 AI의 안전한 활용을 위한 협력을 강화해 나가겠다”고 전했습니다.
김명주 AI안전연구소 소장은 “AI가 국가 핵심 시설과 안보 분야에 미치는 영향이 커질수록 고위험 분야에 대한 정확한 안전 평가가 필요하다”며 “오픈AI와 함께 최첨단 AI의 위험을 과학적으로 검증하고 국제적으로 활용 가능한 평가 체계를 만드는 데 기여하겠다”고 말했습니다.
이상현 오픈AI 아시아태평양지역 정책총괄은 “한국은 AI 기술 활용과 혁신이 빠르게 이뤄지고 있는 중요한 국가”라며 “이번 협력을 통해 신뢰할 수 있는 AI 개발과 안전한 이용 환경 조성에 함께 노력하겠다”고 밝혔습니다.
AI안전연구소와 오픈AI는 앞으로 실무 협의를 통해 구체적인 협력 과제와 추진 일정을 정해 나갈 예정입니다.
최성훈 기자 csh87@etnews.com