児童ポルノを検出する「PhotoDNA」はMicrosoftの主張に反してハッシュから画像を再構成できる

2021/12/22 8 users PhotoDNA Facebook Twitter ハッシュ

Google、Facebook、Twitterなど、数多くの企業が違法コンテンツをプラットフォームから削除するためにMicrosoftが開発した画像識別技術「PhotoDNA」を利用しています。PhotoDNAは違法画像にデジタル署名を付与してデータベース化し、インターネット上の画像をこのデータベースと照合するという形で利用します。Microsoft... 続きを読む

「違法画像の検出システムは簡単にだませる」ことを示した実例はこんな感じ

2021/11/11 12 users 実例 検出システム CSAM 感じ アルゴリズム

近年はデバイスや通信のプライバシーが向上した結果、児童性的虐待コンテンツ(CSAM)などの違法な画像のやり取りが容易になったという問題が生まれています。この問題に対処するため、端末に保存される画像から違法画像を検出する仕組みが開発されていますが、新たな研究で、「アルゴリズムをだまして検出システムを回避... 続きを読む

ASCII.jp：マイクロソフト、児童ポルノなどの違法画像検出ツールを無償で提供

2015/07/21 26 users マイクロソフト 児童ポルノ 無償 ASCII.jp 提供

マイクロソフトの違法画像検出ツールが無償提供へ 米マイクロソフトは現地時間7月17日、インターネット上にアップロードされた違法画像を発見するツール「PhotoDNA」のクラウド版を無償提供すると発表した。 PhotoDNAは、画像のハッシュ値とデータベース化された膨大な違法画像を照応することで違法画像を発見する技術。多少の画像処理やサイズ変更などではハッシュ値が変わらないため、高精度な画像検出が可... 続きを読む

ＦＣ２が「青少年守る」　東大の人工知能で児童ポルノ監視 - withnews

2014/08/27 36 users 罰則 単純所持 米国ラスベガス 児童ポルノ イー・ガーディアン

背景に「規制強化」 ウェブへの投稿監視などを担うイー・ガーディアン（東京都港区）は２７日、ブログや動画配信サービスで知られるＦＣ２（米国ラスベガス）に児童ポルノなどの違法画像を検出する新システムを提供すると発表した。 大量のアダルト動画が配信されているＦＣ２のサイトでは、これまで児童ポルノなどの違法動画を目視で確認してきたというが限界がある。国内では 児童ポルノの単純所持に罰則を設けることを柱とし... 続きを読む