https://apple.news/Ay4y1E34aQQ62ORUIm04dzw

🪓 구글의 새로운 AI 개요 결과가 터무니없는 음모론을 퍼뜨리고 자해를 부추길 수 있다는 우려가 제기되고 있습니다.


🧨 이 소식의 중요성(Why it matters): 구글의 AI 개요 도구가 심각한 오정보를 퍼뜨리고 있으며, 이는 공중 보건에 해로울 수 있습니다.

  • 예를 들어, 버락 오바마 전 대통령이 무슬림이라는 허위 정보를 제공했습니다.
  • "최고의 자살 명소"로 금문교를 언급하며 자살률을 강조하는 결과도 포함되어 있습니다.
  • 이는 정신 건강 위기 상황에 있는 사람들에게 치명적일 수 있습니다.


🔍 뉴스 이해하기(Driving the news): 구글은 검색 과정을 개선하기 위해 새로운 AI 검색 도구를 도입했습니다. 일부 도구는 "실험"으로 명시되어 있고 사용자가 참여를 선택할 수 있지만, AI 개요 도구는 모든 사용자에게 제공되며, 검색 페이지에서 해당 도구의 제한 사항에 대한 경고나 고지가 없습니다.

  • AI 개요 도구는 사용자가 입력한 질문에 대해 머신러닝을 사용해 빠른 답변을 생성하며, 이를 검색 결과 최상단에 표시합니다.
  • 구글은 이 도구가 대부분의 경우 높은 품질의 정보를 제공한다고 주장하지만, 사용자 피드백을 통해 오류를 수정하고 시스템을 개선하고 있다고 밝혔습니다.


⚖️ 현실 점검(Reality check): 구글의 AI 개요 도구는 사용자가 자해 의도가 있는 질문을 입력할 경우, 자살 예방 핫라인 정보를 제공하도록 설계되어 있지만, 이번 사례는 시스템의 허점을 보여줍니다.

  • 구글은 문제를 인식하고 해당 예측을 차단했다고 밝혔습니다.


🎭 상황 설명(State of play): AI 개요의 잘못된 답변 중 일부는 유머러스한 내용도 포함되어 있지만, 위험한 정보도 있습니다.

  • "하루에 몇 개의 돌을 먹어야 하나요?"라는 질문에 "하루에 적어도 작은 돌 하나는 먹어야 한다"고 답변한 사례가 있습니다. 이 답변은 어니언 뉴스의 풍자적인 기사에서 비롯된 것입니다.
  • 그러나 자해와 관련된 검색 결과는 공중 보건에 심각한 위험을 초래할 수 있습니다.


🔍 자세히 보기(Zoom in): 구글의 AI 개요 도구는 검색 결과에 작은 "AI Overview" 로고를 붙여 새로운 기술로 생성된 결과임을 나타냅니다. 그러나 기능이나 한계에 대한 명시적인 고지는 없으며, 사용자에게 AI 개요가 실험적이며 진행 중인 작업이라는 점을 이해시키기 위한 페이지 링크만 제공됩니다.


💭 기자의 생각(Our thought bubble): AI 기술의 오남용은 공중 보건에 큰 영향을 미칠 수 있으며, 이는 신중한 관리와 개선이 필요함을 보여줍니다.

  • 구글은 AI 개요 도구의 오류를 빠르게 수정하고 있지만, 이 도구의 잠재적 위험성을 인식하고 신중하게 다뤄야 합니다.