우리가 인공지능에게 질문을 던지는 순간, 그 뒤에서는 수없이 많은 판단과 선택이 동시에 이루어집니다.
그런데 만약 인공지능이 똑똑하기만 하고, 안전하지 않다면 어떻게 될까요?
이 질문에 정면으로 답하며 '믿을 수 있는 인공지능'을 만드는 데 집중해 온 인물이 있습니다.
바로 AI 기업 앤트로픽(Anthropic)의 CEO, 다리오 아모데이(Dario Amodei)입니다.
똑똑한 AI보다, 믿을 수 있는 AI
다리오 아모데이는 원래 물리학을 전공한 연구자였습니다.
숫자와 이론을 다루는 데 익숙했던 그는 점점 인공지능 연구에 깊이 관여하게 되었고, 특히 AI가 너무 강력해졌을 때 생길 수 있는 위험에 관심을 갖게 됩니다.
그는 이렇게 생각했어요.
“AI가 똑똑해지는 속도만큼, 안전해지는 속도도 중요하다.”
오픈AI에서 앤트로픽으로
다리오 아모데이는 과거 오픈AI(OpenAI)에서 핵심 연구자로 일하며 대형 언어 모델과 AI 시스템의 발전을 직접 경험했습니다.
하지만 그는 한 가지 질문을 계속 던졌어요.
“이 기술을 어떻게 하면 사람에게 해를 끼치지 않도록 만들 수 있을까?”
이 고민 끝에 그는 동료들과 함께 새로운 회사를 설립합니다.
그 회사가 바로 앤트로픽입니다.
앤트로픽과 '헌법 AI'
앤트로픽이 가장 중요하게 여기는 개념은 AI 안전(AI Safety)입니다.
단순히 정답을 잘 맞히는 인공지능이 아니라, 거짓말을 하지 않고 위험한 행동을 부추기지 않으며 사람의 의도를 존중하는 AI를 만드는 것이 목표예요.
이를 위해 앤트로픽은 '헌법 AI(Constitutional AI)'라는 방식을 제안했습니다.
이 방식은 인공지능에게 미리 정해진 원칙과 규칙을 가르쳐 스스로 판단할 때도 그 기준을 지키도록 훈련하는 방법이에요.
마치 “이건 해도 되는 행동이고, 이건 하면 안 되는 행동이야” 라고 미리 약속을 정해 주는 것과 비슷합니다.
클로드(Claude), 또 하나의 AI 비서
앤트로픽이 만든 대표적인 인공지능이 바로 클로드(Claude)입니다.
클로드는 글을 쓰고, 요약하고, 질문에 답하면서도 차분하고 신중한 답변을 하도록 설계된 AI예요.
다리오 아모데이는 AI가 사람을 흉내 내기보다, 사람을 돕는 조력자가 되어야 한다고 강조합니다.
클로드는 무조건 그럴듯한 답을 만들어 내기보다, 모르는 부분은 모른다고 말하고, 위험할 수 있는 질문에는 신중하게 선을 긋도록 설계되었습니다.
사용자를 놀라게 하거나 자극하기보다는, 정보를 정리해 주고 생각을 도와주는 '대화형 도우미'에 가까운 인공지능인 셈이죠.
또한 클로드는 긴 글을 차분하게 읽고 핵심을 정리하거나 복잡한 내용을 단계별로 설명하는 데 강점을 가지고 있습니다.
이는 다리오 아모데이가 추구한 “사람의 판단을 대신하는 AI가 아니라, 사람의 판단을 돕는 AI”라는 철학이 그대로 반영된 결과입니다.
IT 산업에 남긴 메시지
그가 남긴 가장 큰 메시지는 분명합니다.
인공지능의 미래는 성능 경쟁이 아니라, 신뢰의 문제라는 점이에요.
그의 선택은 IT 산업 전체에 중요한 질문을 던졌어요.
기술은 어디까지 허용되어야 하는지, 그리고 기업은 기술에 대해 어떤 책임을 져야 하는지 말이에요.