카카오, 구글 딥마인드와 손잡고 AI 콘텐츠 투명성 강화 나선다
AI가 만든 이미지나 영상, 하반기부터는 어떻게 구별할 수 있을까요?
AI가 만든 이미지나 영상, 하반기부터는 어떻게 구별할 수 있을까요?
핵심 발표
카카오가 구글 딥마인드와 손잡고 AI 생성 콘텐츠에 워터마크를 심는 기술을 도입한다고 밝혔습니다. 올해 하반기부터 카카오의 이미지 생성 모델 '카나나 콜라주'와 영상 생성 모델 '카나나 키네마'가 만든 결과물에 구글 딥마인드의 '신스ID' 워터마크가 자동으로 삽입됩니다. AI가 만든 콘텐츠인지 눈으로 구분하기 점점 어려워지는 상황에서, 콘텐츠의 출처를 투명하게 밝히려는 시도로 볼 수 있습니다.
세부 내용
신스ID는 이미지, 텍스트, 오디오, 영상에 사람의 눈이나 귀로는 감지할 수 없는 디지털 워터마크를 심어 넣는 기술입니다. 나중에 전용 도구로 검증하면 해당 콘텐츠가 AI로 생성됐는지 확인할 수 있고, 자르거나 압축하는 등 재가공을 거쳐도 워터마크가 남아 있도록 설계됐습니다. 카카오는 카카오톡의 카나나 템플릿 등으로도 적용 범위를 넓혀갈 계획입니다.
왜 중요한가
다만 워터마크가 없다고 해서 무조건 AI가 아니라고 단정할 수는 없습니다. 아직은 카카오 자체 모델에만 적용되는 만큼, 다른 서비스에서 만든 이미지나 영상까지 이 방식으로 걸러낼 수는 없기 때문입니다. 출처가 불분명한 사진이나 영상을 접했을 때는 워터마크 검증 여부와 함께, 원본 출처가 명확히 밝혀져 있는지도 함께 살펴보는 습관을 들이시길 권합니다.
A small team that reads too much internet so you don't have to.
