새로운 이미지 생성 AI 모델, 창의적 자유와 책임의 균형 찾기
최근, 이미지 생성 인공지능(AI) 분야에서 큰 화제를 모으고 있는 오픈AI가 새로운 AI 모델의 콘텐츠 생성 정책에 변화를 주었습니다. 이 변화는 많은 사람들에게 놀라움과 동시에 우려를 불러일으켰는데요, 그 이유는 무엇일까요?
1. 새로운 AI 모델의 등장
지난 25일, 오픈AI는 '챗GPT-4o 이미지 생성'이라는 새로운 모델을 세상에 선보였습니다. 이 모델은 다양한 이미지를 더욱 창의적이고 자유롭게 만들어낼 수 있는 기능을 가지고 있어요. 오픈AI의 샘 올트먼 CEO는 이 모델이 “창의적 자유를 허용하는 데 있어 중요한 이정표”라고 강조했답니다.
2. 정책 변화와 그 배경
조앤 장 모델행동 총괄은 블로그와 소셜 미디어를 통해 이 새로운 모델에 맞춰 콘텐츠 정책이 어떻게 바뀌었는지 설명했어요. 이전에는 민감한 주제나 혐오 표현을 포함한 이미지 생성을 엄격히 제한했지만, 이제는 보다 정교한 접근 방식을 취하기로 했습니다.
장 총괄은 “우리는 AI 연구원들이 무엇을 만들고 무엇을 만들지 말아야 할지 결정하는 중재자가 되어서는 안 된다”며, 대신 “실질적인 피해를 방지하면서도 창의적 자유를 최대한 보장하는 것”을 목표로 한다고 밝혔어요.
3. 새로운 정책의 구체적인 예시들
공인에 관한 이미지: 오픈AI는 이제 모든 사람이 동등하게 이미지 생성의 대상이 될 수 있도록 허용합니다. 다만, 특정 인물이 이를 원하지 않을 경우에만 생성을 제한하도록 '옵트-아웃' 목록을 제공한다고 해요.
△ 모욕적 콘텐츠: 예를 들어, 누군가의 외모를 비하하는 요청도 이제는 허용됩니다. 하지만 장 총괄은 이러한 변화가 무분별한 사용을 의미하지는 않으며, 여전히 신중한 사용이 필요하다고 덧붙였습니다.
△ 혐오 상징: 나치 상징과 같은 민감한 표현도 교육적이나 문화적 맥락에서 사용할 수 있게 되었습니다. 단, 이를 유해하게 사용하는 것을 방지하기 위한 기술적 방법도 함께 발전시키고 있다고 합니다.
4. 새로운 도전과 기대
이번 정책 변화로 인해 AI 콘텐츠 관리에 대한 논쟁이 더욱 활발해질 것으로 보입니다. 테크크런치와 같은 IT 매체는 이제 AI가 유명 인사들의 이미지를 생성하고 수정할 수 있게 되면서 새로운 문화적 논의가 시작될 것이라고 전망했습니다.
또한, 오픈AI의 새로운 모델은 일본의 유명한 애니메이션 스타일을 모방한 이미지를 생성해 큰 인기를 끌었지만, 저작권 침해 문제도 제기되었습니다. 이에 따라 앞으로의 발전 과정에서 더욱 신중한 접근이 필요할 것으로 보입니다.
결론적으로, 이번 변화는 AI 기술의 발전과 창의성의 확대를 가져왔지만, 동시에 책임감 있는 사용이 더욱 중요해졌습니다. 우리 모두가 AI를 바르고 유익하게 사용하는 방법을 고민해야 할 시점입니다. 여러분도 새로운 기술에 대해 열린 마음으로 배우면서도, 그 사용에 있어 신중함을 잃지 않도록 주의하세요!
최지호 기자 jhochoi@etnews.com