오스트리아의 개인 정보 보호 옹호 단체, OpenAI에 도전하다

오스트리아의 한 데이터 권리 보호 옹호 단체가 저명한 인공지능(AI) 개발사인 OpenAI에 대한 새로운 개인정보 침해 소송을 제기합니다.

4월 29일, 노이브는 OpenAI가 기관의 생성형 AI 챗봇인 ChatGPT로 인해 발생한 잘못된 정보를 수정하지 않았다며 불만을 제기했습니다. 이 단체는 이러한 조치가 유럽연합의 개인정보 보호 규정을 위반할 수 있거나 오히려 무대책일 수 있다고 말했습니다.

이 단체가 제기한 소송에서는 이름이 언급되지 않은 유명 인사가 OpenAI 챗봇에 자신에 대해 질문했는데 지속적으로 잘못된 정보를 받았다고 주장했습니다.

OpenAI는 해당 인물의 데이터 수정 또는 삭제 요청에 대해 불가능하다며 거부한 것으로 알려졌습니다. 또한 학습 데이터의 출처와 출처에 대한 구체적인 설명도 거부했습니다.

노이브의 데이터 보호 변호사인 마르트제 드 그라프는 성명서를 통해 이 사건에 대해 언급했습니다:

따라서 시스템이 정확하고 투명한 결과를 제공할 수 없다면 개인에 대한 데이터를 생성하는 데 사용할 수 없습니다. 기술은 법적 요건을 따르는 것이지 그 반대가 아닙니다.

노이브는 오스트리아 데이터 보호 당국에 불만을 제기하며 OpenAI의 데이터 처리를 조사해 달라고 요청했습니다. 특히 노이브는 조직이 대규모 언어 모델을 통해 개인 데이터의 정확성을 어떻게 보장하고 있는지 확인해 달라고 요청했습니다.

"현재로서는 기업이 개인에 관한 데이터를 처리할 때 ChatGPT가 EU 법률을 준수하도록 할 수 없다는 것은 매우 분명합니다."라고 De Graaf는 말합니다.

유럽 디지털 권리 센터(유럽 디지털 권리 센터, Noyb)는 오스트리아 비엔나에 본부를 두고 유럽 일반 개인정보 보호법을 지키기 위해 '전략적 법정 소송 및 미디어 이니셔티브'를 제기하는 것을 목표로 합니다.

유럽 전역에서 활동가나 연구자들이 챗봇에 대해 언급한 것은 이번이 처음이 아닙니다.

2023년 12월, 두 개의 유럽 비정부기구에서 실시한 조사에 따르면 현재 Copilot으로 브랜드가 변경된 Microsoft Bing AI 챗봇이 독일과 스위스의 지방 선거와 관련하여 실제로 오해의 소지가 있거나 잘못된 정보를 제공하고 있는 것으로 나타났습니다.

챗봇은 후보자 정보, 여론조사, 스캔들, 투표에 대해 잘못된 답변을 제공하면서 출처를 잘못 인용했습니다.

EU는 아니지만 또 다른 예로 구글의 제미니 AI 챗봇이 이미지 생성기에서 부정확한 이미지를 제공한 사례가 있습니다. 구글은 이전에 이 사건에 대해 사과하고 모델을 변경하겠다고 약속한 바 있습니다.