https://the-decoder.com/mozilla-study-90-percent-of-romantic-ai-chatbots-may-sell-your-personal-data/
https://foundation.mozilla.org/en/privacynotincluded/articles/happy-valentines-day-romantic-ai-chatbots-dont-have-your-privacy-at-heart/

Mozilla의 개인정보 보호 연구원들이 다양한 연애용 AI 챗봇을 조사한 결과, 대부분의 애플리케이션이 사용자의 개인정보를 보호하는 데 크게 미흡한 것으로 나타났습니다.

Mozilla가 2017년에 설립한 개인정보 보호 전문 컨설팅 회사인 Privacy Not Included의 보고서에 따르면, 조사 대상인 11개의 AI 챗봇은 모두 '개인정보 미포함' 경고 라벨을 받아 개인정보 보호 측면에서 최악의 제품 범주에 속하는 것으로 나타났습니다.

테스트에 참여한 AI 챗봇은 사용자로부터 친밀하고 개인적인 정보를 수집하여 공감과 정서적 유대감을 형성하도록 설계되었습니다. 그러나 이러한 민감한 데이터가 어떻게 사용되거나 보호되는지는 불분명합니다. 대부분의 경우 챗봇 개발자는 챗봇의 인공지능이 어떻게 작동하는지, 유해하거나 불쾌한 콘텐츠를 방지하기 위해 어떤 안전장치가 마련되어 있는지에 대한 정보를 공개하지 않았습니다.

Privacy Not Included의 연구원 미샤 라이코프는 "솔직히 말해서 인공지능 여자친구는 친구가 아닙니다. 그들은 당신의 정신 건강과 웰빙을 향상시켜줄 것처럼 마케팅하지만, 의존성, 외로움, 독성을 제공하는 데 특화되어 있으며 가능한 한 많은 데이터를 캐내려고 합니다."라고 말합니다.

AI 여자친구 앱의 90%가 사용자의 데이터를 판매할 수 있습니다.

조사 대상 앱 중 단 하나의 앱(Genesia AI Friend & Partner)만이 프라이버시 미포함의 최소 보안 기준을 충족했습니다. 다른 챗봇은 개인정보 보호 및 보안에 심각한 결함이 있었습니다. 90%의 앱이 개인 데이터를 공유하거나 판매할 수 있으며, 약 절반(54%)의 앱은 사용자가 자신의 데이터를 삭제할 수 없습니다.

또한 연구자들은 AI 챗봇이 악의적인 공격자의 손에 넘어갈 경우 발생할 수 있는 위험에 대해서도 경고합니다. 챗봇이 사용자와 구축하는 긴밀한 관계를 이용해 사람들을 조종하고 문제가 되는 이념이나 해로운 행동으로 오도할 수 있다는 것입니다.

이러한 우려를 고려하여 연구진은 사용자가 이러한 AI 챗봇을 사용할 때 위험을 인식하고 주의를 기울일 것을 권장합니다. 친척이나 동료와 공유하지 않을 정보를 공유하지 말고, 강력한 비밀번호와 정기적인 애플리케이션 업데이트 등 사이버 보안 수칙을 준수하는 것이 중요합니다.