빠르게 변화하는 인공지능 분야에서 새로운 도구가 출시될 때마다 기대와 우려가 동시에 발생합니다. 최근 오픈아이디(OpenAI)의 영상 생성 모델인 소라 2(Sora 2)는 안전성과 혁신성 사이의 뜨거운 논쟁의 중심에 섰습니다. 11월 11일, 시민단체 퍼블릭 시티즌(Public Citizen)은 소라 2의 오용 가능성에 대한 심각한 우려를 제기하며 오픈아이디에 소라 2 배포 중단을 촉구했습니다. 이러한 요구는 인공지능 기업들이 기술의 한계를 뛰어넘는 동시에 자신들이 개발한 기술의 도덕적, 윤리적 함의를 어떻게 다룰지 고심하는 가운데 직면하는 어려움을 보여줍니다.
## 신중한 접근을 촉구하는 호소
소비자 운동가 랄프 네이더가 설립한 퍼블릭 시티즌은 소라 2의 빠른 배포에 우려를 표명했습니다. 오픈아이디에 보낸 서한에서 이들은 딥페이크 기술과 관련된 위험성, 특히 디지털 괴롭힘과 개인의 이미지 및 초상을 동의 없이 조작할 가능성에 대해 강조했습니다. 시민단체 퍼블릭 시티즌(Public Citizen)의 기술 책임 옹호자인 J.B. 브랜치는 다음과 같은 중요한 질문을 던졌습니다. “출시 후 72시간 안에 사람들에게 해를 끼치는 제품을 우리가 용납할 수 있겠습니까?”
최근 소라 2(Sora 2) 출시 직후, 폭력적인 장면을 포함한 유해 영상들이 소셜 미디어에 유포되기 시작했다는 보도는 이러한 질문의 시급성을 더욱 강조합니다. 이러한 사건들은 AI 개발자들이 자신들의 기술이 대중에게 공개되기 전에 안전성을 확보해야 할 윤리적 책임에 대한 타당한 우려를 불러일으킵니다.
## 오픈아이디(OpenAI)의 답변
오픈아이디 대변인은 소라 2가 사용자 안전을 최우선으로 고려하여 설계되었다고 주장하며, 개인 초상권 악용을 방지하기 위한 여러 안전장치를 포함하고 있다고 강조했습니다. 예를 들어, 해당 기능은 엄격한 검증 절차를 거쳐 사용자의 명시적인 동의를 받아야만 사용할 수 있습니다. 또한, 사용자는 자신의 초상권을 사용할 수 있는 사람을 직접 관리하고 언제든지 접근 권한을 취소할 수 있습니다.
이러한 보장에도 불구하고 유해 콘텐츠의 급속한 확산으로 인해 많은 사람들이 이러한 조치가 충분한지 의문을 제기하고 있습니다. 시민단체 퍼블릭 시티즌(Public Citizen)의 행동 촉구는 생성형 AI 분야에서 책임성을 강조했던 이전의 공개 서한들과 맥락을 같이합니다. 핵심은 분명합니다. AI 기술이 발전함에 따라 그 사용을 규제하는 프레임워크 또한 발전해야 한다는 것입니다.
## 앞으로의 전망
퍼블릭 시티즌의 이러한 움직임은 칭찬할 만하지만, 전문가들은 오픈아이언(OpenAI)이 소라 2(Sora 2)를 시장에서 철수시킬 가능성에 대해 회의적인 시각을 보입니다. 워싱턴 대학교의 치라그 샤(Chirag Shah) 교수는 소라 2의 폭발적인 인기로 인해 오픈아이언이 쉽게 물러서지 않을 것이라고 예상합니다. “소라 2는 엄청난 인기를 얻고 있고, 오픈아이언은 이를 통해 수익을 창출할 것입니다.”라고 그는 말했습니다.
역사적으로 규제 조치는 기술과 관련된 중대한 사건 이후에 이루어지는 경우가 많습니다. 예를 들어, 오픈아이언의 챗GPT(ChatGPT)와 관련된 비극적인 사건 이후, 연방 규제 당국은 AI 공급업체들이 시행하는 안전 조치를 면밀히 조사하기 시작했습니다. 하지만 소라 2의 경우, 딥페이크 기술의 오용 사례가 우려스럽기는 하지만, 정부의 즉각적인 개입을 요구할 만큼 심각한 수준은 아닐 수 있습니다.
옴디아(Omdia)의 애널리스트인 리안 제 수(Lian Jye Su)와 같은 전문가들은 이러한 위험을 책임감 있게 헤쳐나가는 책임은 궁극적으로 사용자에게 있다고 주장합니다. AI 도구가 더욱 보편화됨에 따라 사용자는 경각심을 갖고 정보를 숙지하여 부정적인 결과를 초래할 수 있는 경솔한 사용을 피해야 합니다. 소라 2와 같은 기술의 오용을 방지하는 책임은 개발자보다는 이러한 기술을 사용하는 개인에게 더 있을 수 있습니다.
결론적으로, 오픈아이(OpenAI)의 소라 2를 둘러싼 논쟁은 AI 기술을 책임감 있게 발전시키는 데 있어 복잡성을 보여줍니다. 개발자들이 계속해서 혁신을 거듭함에 따라, 새로운 기능에 대한 기대감과 잠재적 피해에 대한 안전장치 마련이라는 두 가지 중요한 과제 사이에서 균형을 찾는 것이 관건입니다. 시민단체 퍼블릭 시티즌(Public Citizen)의 호소는 끊임없이 진화하는 인공지능 환경 속에서 경각심과 책임감이 얼마나 중요한지를 다시 한번 일깨워줍니다.
