AIが生成する画像を「ネコ」にするサイバー攻撃　絵師らを守る技術「Nightshade」　米シカゴ大が開発

2024/04/15 29 users seamless シームレス 論文 山下裕毅氏 論文単位

このコーナーでは、2014年から先端テクノロジーの研究を論文単位で記事にしているWebメディア「Seamless」（シームレス）を主宰する山下裕毅氏が執筆。新規性の高いAI分野の科学論文を山下氏がピックアップし、解説する。 X： ＠shiropen2 米シカゴ大学に所属する研究者らが発表した論文「Nightshade: Prompt-Specific P... 続きを読む

画像に「毒」を盛ることでAIによる画像学習を防止するツール「Nightshade」が一般公開され誰でも使用可能に

2024/01/22 19 users Performance Tuning シカゴ大学 学習 画像

2024年1月19日、シカゴ大学の研究チームが開発した、AIによる画像の学習を防止するツール「Nightshade」が一般公開され、誰でもダウンロード可能になりました。 Nightshade: Protecting Copyright https://nightshade.cs.uchicago.edu/whatis.html Today is the day. Nightshade v1.0 is ready. Performance tuning is d... 続きを読む

イラストの無断AI学習の対抗策「Nightshade」とその反応

2023/10/29 49 users SDXL Glaze 出力 対抗策 統合

mirium @numatakeja 画像生成AIに対する新たな防御ツール、Nightshade。記事の内容通りならメチャクチャ凄いぞこれ！！ ・わずか100枚の”毒入り”画像を学習させるだけでSDXLの出力がほぼ完全に崩壊する ・毒は伝播する。例えば毒入りの「犬」を学習させると「ハスキー」や「狼」の出力も崩壊する Glazeへの統合が楽しみ... 続きを読む

イラスト作品や写真作品を毒化して画像生成AIの学習を阻害できる学習防止ツール「Nightshade」

2023/10/24 10 users poison 画像生成AI 学習 イラスト作品 シカゴ大学

シカゴ大学の研究チームがAIによる画像学習を防止するツール「Nightshade」を開発しています。Nightshadeを用いて画像を処理すると画像の見た目を大きく変えずにAIによる学習を阻害することが可能とのことです。 Meet Nightshade, the new tool allowing artists to 'poison' AI models | VentureBeat https://venturebe... 続きを読む