AI 환경이 발전함에 따라 보안 문제가 대두되고 있으며, OpenAI의 ChatGPT와 Amazon의 Q는 모두 개인 정보 유출과 씨름하고 있습니다.

OpenAI는 회사 내부 데이터를 추출할 수 있는 ChatGPT의 취약점을 신속하게 해결했습니다.

ChatGPT가 특정 단어를 무한 반복하도록 유도하는 이 기법은 스팸으로 분류되어 OpenAI의 서비스 약관을 위반한 것으로 간주되었습니다.

OpenAI의 신속한 대응

워싱턴 대학교와 구글 딥마인드를 비롯한 주요 기관의 연구원들은 ChatGPT가 지속적으로 단어를 반복하도록 유도하면 OpenAI의 사전 학습 배포에서 개인 정보가 유출된다는 사실을 발견했습니다.

그러나 보고서가 발표된 후 OpenAI는 예방 조치를 시행했으며, 현재 ChatGPT-3과 GPT-4는 유사한 조작을 시도하는 사용자에게 경고를 표시하고 있습니다.

콘텐츠 정책 및 보안 문제

OpenAI의 콘텐츠 정책은 포에버 루프를 명시적으로 언급하지는 않지만, 스팸과 같은 사기성 활동을 비난하고 있습니다. 특히 서비스 약관에서는 개인 정보에 액세스하거나 OpenAI의 AI 도구의 소스 코드를 공개하려는 시도를 명시적으로 금지하고 있습니다.

회사는 처리 제약, 문자 수 제한, 네트워크 및 스토리지 제약, 해당 명령 실행의 비현실성 등을 이유로 무기한 반복 요청을 이행하지 않는다고 합니다.

DDoS 및 지속적인 도전 과제

이번 사건은 지난달 ChatGPT에 대한 분산 서비스 거부(DDoS) 공격이 폭로된 데 이어 발생한 사건입니다.

OpenAI는 주기적인 서비스 중단을 유발하는 비정상적인 트래픽 패턴을 인정했습니다. 이번 사건에 대한 OpenAI의 논평 요청은 아직 답변이 없는 상태입니다.

AI 분야의 핵심 업체인 Amazon은 최근 출시한 Q 챗봇으로 나름의 도전에 직면해 있습니다.

개인 정보가 유출될 가능성이 있다는 보도가 나오면서 OpenAI의 상황과 비교하는 목소리가 커지고 있습니다. 이에 대해 아마존은 직원들이 내부 채널을 통해 피드백을 공유한 결과라고 해명했습니다. 아마존은 보안 문제가 없다고 주장하지만, Q가 프리뷰 제품에서 일반 출시로 전환되면서 우려는 여전합니다.