경북대학교 대학원 인공지능학과 정희철 교수 연구팀이 글자가 그림으로 변환하는 이미지 생성 AI의 작동 방식을 규명했습니다

연구팀은 '반고흐 화풍', '네온 조명', '누드'와 같은 개념이 모델 전체에 흩어져 있는 것이 아니라, 10에서 20%의 특정 스펙트럼 성분에 집중적으로 인코딩돼 있음을 확인했고, 이는 특정 개념을 담당하는 '전용 경로'가 존재한다는 의미라고 설명했습니다.

이런 원리를 활용해 '스펙트럼 무효화'라는 제어 기법을 제안했는데, 이 기법을 활용하면 특정 개념과 관련된 스펙트럼 성분을 선택적으로 제거할 수 있게 돼 부적절한 콘텐츠 생성을 차단할 수 있다고 밝혔습니다.

텍스트-이미지 변환의 작동 방식을 명확하게 규명한 점이 인정돼 2025년 1월 싱가포르에서 열린 인공지능 분야 최정상급 국제학술대회에서 발표 논문으로 채택됐다고 덧붙였습니다.