나이트쉐이드1 Nightshade(나이트쉐이드) 출시 이미지 생성형 ai(통칭 그림 ai)의 이미지 저작물 무단 사용 방지 + 공격형 프로그램 나이트쉐이드가 정식 출시되었습니다. 나이트쉐이드는 글레이즈와 유사하게 작동하지만 스타일 모방에 대한 방어 대신 생성 AI 이미지 모델 내부의 특징 표현을 왜곡하는 공격 도구로 설계되었다. 나이트쉐이드는 이미지를 "독" 샘플로 변환하여 동의 없이 이미지를 훈련하는 모델이 예상된 규범에서 벗어난 예측 불가능한 행동을 학습하는 것을 볼 수 있다. 예를 들어 우주를 나는 소의 이미지를 요청하는 프롬프트는 대신 우주에 떠다니는 핸드백 이미지를 얻을 수 있다. 글레이즈가 개별 예술가들이 스타일 모방 공격으로부터 자신을 보호하기 위해 사용할 수 있는 방어적인 도구인 반면, 나이트쉐이드는 동의 없이 이미지를 긁어내는 모델을 방해하.. 2024. 1. 20. 이전 1 다음