블룸버그: Adobe의 'Firefly' AI가 상업적으로 안전하고 책임감 있게 훈련되었다는 공식 입장과 달리, 경쟁사의 AI 생성 이미지를 포함해 저작권 침해 논란의 여지가 있는 데이터로 훈련된 것으로 밝혀졌습니다.
[Claude3 프롬프트 자동생성을 통해 미드저니로 생성된 이미지]
이 소식의 중요성(Why it matters): Adobe가 Firefly를 경쟁사와 차별화된 '상업적으로 안전하고 윤리적인' AI 도구로 홍보해 왔으나, 실제로는 경쟁사의 AI 생성 이미지를 훈련 데이터에 포함시킨 것으로 드러나 투명성 논란에 휩싸이게 되었습니다. 이는 '책임감 있는 AI'에 대한 정의가 모호하고, 생성 콘텐츠를 활용할 때 법적, 윤리적 문제를 피하기 어려움을 보여주는 사례입니다.
- Adobe는 Firefly가 주로 자사의 라이선스 이미지 데이터베이스인 Adobe Stock으로 훈련되었다고 강조해 왔습니다.
- 그러나 실제로는 Midjourney 등 경쟁 AI 서비스로 생성된 이미지도 훈련 데이터에 포함되었음이 밝혀졌습니다.
- Adobe Stock 제작자 커뮤니티와의 소통 채널에서는 이 사실을 인정하는 글이 올라왔으나, 공식 발표에서는 언급되지 않았습니다.
내막을 들여다보면(Behind the scenes): Firefly 개발 초기부터 AI 생성 이미지 활용을 둘러싼 사내 의견 충돌이 있었던 것으로 전해집니다. 일부에서는 점진적으로 생성 이미지 의존도를 낮춰야 한다고 제안했으나, 현재로서는 그럴 계획이 없는 것으로 알려졌습니다.
행간을 읽어보면(Between the lines): Adobe는 경쟁사들이 인터넷에서 마구잡이로 수집한 데이터로 모델을 만든 것과 달리, 자사는 저작권 문제가 없는 이미지만 활용해 고객사의 지적 재산을 존중한다는 점을 강조해 왔습니다. 그러나 경쟁 서비스로 만들어진 이미지를 활용한 사실이 드러나면서, Firefly가 경쟁 제품과 차별화된다는 주장에 의문이 제기되고 있습니다.
주목할 점(What to watch): 생성형 AI의 훈련 데이터를 둘러싼 윤리적, 법적 논란은 앞으로도 지속될 전망입니다. 기술 발전으로 고품질의 콘텐츠를 쉽게 생성할 수 있게 되면서, 기존 저작물의 무단 활용 문제가 도마에 오르고 있기 때문입니다. AI 기업들이 '책임감 있는 AI 개발'이라는 화두에 어떻게 대응해 나갈지 주목됩니다.
[ AI 게임 / 기획 대회 ' J.O.A.T ' 개최 ] 
]---
