タグ ディープフェイク
人気順 10 users 50 users 100 users 500 users 1000 users卒業アルバムの同級生を裸に 子どもも加害者？画像加工の実態 | NHK | WEB特集
2024/12/18
39 users
実態
NHK
同級
加害者
卒業アルバム
「何これっ。気持ち悪い。軽いパニックみたいな」 15歳の少女のもとに送りつけられてきたのは、自分が裸になった画像。 SNSにアップした日常の何気ない動画を、誰かが勝手に裸に加工したとみられる“性的ディープフェイク“でした。 いま、AIを使ったこうした性的な画像がネット上に氾濫、拡散する事例が急激に増えていま... 続きを読む
芸能人の偽の性的画像 メルカリなどで大量販売 対策求める声 | NHK
2024/12/14
152 users
メルカリ
NHK
フリマアプリ大手
本物
強化
AIを使って、本物と見分けがつかないほど巧妙な偽の画像や動画を作るディープフェイク。この技術を使って、芸能人の顔を合成したとみられる性的な画像がフリマアプリ大手「メルカリ」などで大量に販売されていることが分かりました。 芸能事務所などで作る団体からは、対策の強化を求める声が出ています。 芸能人 偽の性... 続きを読む
ChatGPTがアメリカ大統領選挙の期間中に25万件ものディープフェイク画像作成を拒絶していたことが判明
2024/11/11
11 users
OpenAI
chatgpt
リクエスト
判明
投票
2024年11月5日に投票が行われたアメリカ大統領選挙において、ChatGPTに対して政治家等のディープフェイクを作るよう求めるリクエストが大量にあったことをOpenAIが明らかにしました。OpenAIは、投票日までの1カ月間で25万件ものリクエストを拒絶したと述べました。 How OpenAI is approaching 2024 worldwide elections ... 続きを読む
韓国の性的ディープフェイク 告発女性が明かす「ゆがんだ欲望」の実態 | 毎日新聞
2024/09/09
25 users
毎日新聞
欲望
実態
告発女性
韓国
ディープフェイクを共有するためのテレグラムのチャットルームには「記事を出す記者も陵辱しろ」との投稿もあった（パソコンの画面から。一部を加工しています）＝ソウルで2024年8月27日、日下部元美撮影 韓国で一般人の女性の写真や動画を元に生成人工知能（AI）を使用し作った、性的な偽画像「ディープフェイク」が拡... 続きを読む
ディープフェイク、国内で28倍に急増 崩れる日本語の壁 - 日本経済新聞
2024/08/28
22 users
生成AI
急増
人工知能
発達
詐欺集団
生成AI（人工知能）を使い偽の動画などを作る「ディープフェイク」による詐欺被害のリスクが日本でも急激に高まっている。英企業の調査で2023年に日本で確認されたディープフェイクは前年比28倍になった。生成AIの急速な発達で海外の詐欺集団にとって日本語はもはや壁でなくなりつつある。ディープフェイクはAIを使い生... 続きを読む
身近な女性を「ポルノ」にして貶める 韓国で激増するAI性犯罪 | 容疑者の7割超が10代の衝撃
2024/08/28
8 users
ポルノ
衝撃
韓国
容疑者
７割超
勝手に「性的コンテンツ」にされる女性たち 韓国ではいま、ディープフェイクによって性的な画像や動画に顔をあてはめられ、テレグラムのグループチャットで拡散される性犯罪に、大勢の女性が巻き込まれている。 知らぬ間に被害者となった女子生徒がいるとされる数百もの学校のリストが、Xで公開されている。この投稿内容... 続きを読む
生成ＡＩ偽画像で「本人なりすまし」、口座開設デジタル顔認証すり抜け…闇サイトでの手口公開にコメント続々
2024/08/27
5 users
手口
生成AI
巧妙化
懸念
人工知能
【読売新聞】 生成ＡＩ（人工知能）を悪用した偽画像「ディープフェイク」の巧妙化に伴い、オンライン上で行われる顔認証などの本人確認が不正に突破される懸念が高まっている。闇サイトではこうした手口の情報交換が行われ、実証実験でも認証をすり 続きを読む
ディープフェイク／World Maker 4P漫画コンテスト - 海乃スワロー/夜諏河樹 | 少年ジャンプ＋
2024/08/03
7 users
夜諏河樹
World Maker
少年ジャンプ
JASRAC許諾第9009285055Y45038号 JASRAC許諾第9009285050Y45038号 JASRAC許諾第9009285049Y43128号 許諾番号 ID000002929 ABJマークは、この電子書店・電子書籍配信サービスが、著作権者からコンテンツ使用許諾を得た正規版配信サービスであることを示す登録商標(登録番号 第6091713号)です。 続きを読む
天文学者が銀河測定ツールを使ってAIが作成したディープフェイクを見分ける手法を発明
2024/07/23
27 users
銀河
天文学者
生成AI
発明
測定
by Adejumoke Owolabi 生成AIの普及に伴いAIを用いて作成された偽画像(ディープフェイク)を見分ける手法が求められるようになっています。イングランド・ハル大学の研究チームは、銀河の測定に使用するツールを利用してディープフェイクを見分ける手法を開発しました。 Want to spot a deepfake? Look for the stars in ... 続きを読む
AI裏垢女子に気を付けろ(ディープフェイクで裏垢動画を作ってみた)｜山野祐介
私事ですが、骨折して２か月ほど半寝たきり＆半引きこもり生活をしていました(動かな過ぎて痔になった)。なので連載以外は全く何もせず過ごしていたんですが、若干余裕が出てきたのでリハビリがてらnoteで好きなことを書きます で……久々にXを見て「おすすめ」タブに表示されていた裏垢女子を一度見たら、それからずっと... 続きを読む
AIによる「声」の復活とその脅威
2024/04/28
15 users
脅威
終焉
復活
翻訳
音声
The Atlantic誌に「外国語教育の終焉」（The End of Foreign-Language Education）という記事が載っていた。 この記事にもある通り、最近ではAIによって、外国語の文章の翻訳だけではなく、外国語を流暢に話す自分の音声やビデオすら、10ドルもあれば比較的簡単に作ることができる。ようするにディープフェイクだが、試... 続きを読む
同意なしの性的なディープフェイク画像作成を禁止する法案がイギリスで提出される、作成者に画像共有の意図があるかどうかは関係なし
2024/04/17
30 users
法案
意図
刑事罰
イギリス
同意
イギリス政府が「性的に露骨なディープフェイクを作成した卑劣な人々は、2024年4月16日に政府によって発表された新しい法律に基づいて訴追されることになる」と発表しました。当該法律は修正案を通じて導入される予定で、作成者に共有の意図がなかったとしても、刑事罰の対象になります。 Government cracks down on ‘de... 続きを読む
【米大統領選2024】 トランプ氏支持者、AI生成の偽画像で黒人有権者を誘導＝BBC調査 - BBCニュース
2024/03/05
9 users
黒人有権者
共和党
BBC調査
誘導
AI生成
今年11月の米大統領選で、アフリカ系アメリカ人の有権者に共和党への投票を促すため、ドナルド・トランプ前大統領の支持者らが、人工知能（AI）で偽物の画像を生成・拡散している。BBC調査報道番組「パノラマ」が明らかにした。 BBCの調査では、黒人有権者が前大統領を応援しているように見えるディープフェイク（AIを使... 続きを読む
「顔」を盗むiPhoneマルウエア出現、ディープフェイクで銀行口座に不正アクセス
2024/02/28
12 users
生成AI
脅威
生体認証
人工知能
回避
生成AI（人工知能）などを悪用した「ディープフェイク」が大きな脅威になっている。その1つが「顔交換」。自分の顔を他人の顔にすげ替えた動画や画像を生成する。無料あるいは安価なツールやサービスが出回り、誰でも簡単に試せる状況になっている。 顔交換の悪用方法の1つが、生体認証の回避である。顔交換で他人になり... 続きを読む
ディープフェイクで「顔交換」、顔認証を突破する攻撃が約7倍に
2024/02/13
11 users
攻撃
顔認証
顔交換
ディープフェイク上司の指示に従い38億円を詐欺師に送金してしまう事態が発生、ディープフェイクを見分ける方法はあるのか？
2024/02/05
14 users
指示
事態
詐欺師
発生
方法
AI技術の発展に伴って、実在の人物にそっくりな顔や声を含む映像を作り出すディープフェイク技術の悪用事例も増えつつあります。香港では、会社のCFOを名乗る人物のディープフェイク映像にだまされた従業員が2億香港ドル(約38億円)を送金してしまう事例が発生しました。 Finance worker pays out $25 million after vide... 続きを読む
X(旧Twitter)で「Taylor Swift(テイラー・スウィフト)」が検索不可能に、ディープフェイクポルノ拡散防止のため
2024/01/28
14 users
旧twitter
Taylor Swift
グラミー賞
映像
グラミー賞も受賞した歌手テイラー・スウィフトのディープフェイク(AIを用いて作成された合成画像・映像)が、X(旧Twitter)で拡散されています。これを受け、Xでは検索機能で「Taylor Swift」と検索することが不可能になりました。 X is being flooded with graphic Taylor Swift AI images - The Verge https://www.thev... 続きを読む
ニコンやソニー、「AI偽画像」防ぐカメラ 電子署名で - 日本経済新聞
2023/12/29
20 users
ニコン
生成AI
ソニー
人工知能
電子署名
ニコンやソニーグループはフェイク画像を防ぐカメラ技術を実用化する。画像に撮影場所や撮影者、編集履歴などの情報を埋め込み、デジタル署名技術で画像の信頼性を確保する。生成AI（人工知能）で作った本物との見分けが難しい「ディープフェイク」が氾濫している。世界カメラ市場でシェア9割超を握る国内勢が情報インフ... 続きを読む
プーチン大統領のディープフェイクが本物のプーチン大統領と公開質疑で対面し本人に「影武者はいるの？」と質問
2023/12/15
7 users
プーチン大統領
影武者
一幕
本物
公開質疑
2023年12月14日にロシアのウラジーミル・プーチン大統領が年末恒例の質疑応答イベントを開催しました。このイベントの中で国民からの質問として「プーチン大統領の外見や声を再現したディープフェイクがプーチン大統領に質問する映像」が映し出され、プーチン大統領が自身のディープフェイクに対して応答する一幕があり... 続きを読む
YouTube上では詐欺的広告動画がまん延しており、YouTubeはその存在を把握しているにもかかわらず削除対応に応じないとの指摘
2023/12/13
107 users
YouTube
YouTube上
イーロン・マスク
指摘
存在
YouTube上で再生される広告動画の中に、ディープフェイクで作成されたイーロン・マスクが「AIを活用したトレーディングボットを使えばリスクなしでわずか6カ月で100万ドル(約1億4500万円)を稼ぐことができる」と語る詐欺的動画が紛れ込んでいることが報告されています。この詐欺的動画を削除するようYouTubeに訴えかけて... 続きを読む
人には正しく聞こえるが“AIにはゆがんで聞こえる声”に変えるツール 合成音声に使われないために保護
2023/12/10
21 users
合成音声
ツール
保護
未然
悪用
（関連記事：「本人の声とそっくりな合成音声」の悪用に対して法的権利はあるか？ NTT社会情報研究所が調査） この脅威に対処するため、研究チームは「AntiFake」と呼ばれる新しい防御ツールを開発。このツールは従来のディープフェイクを後から検出する方法と異なり、被害者の声として合成されること自体を未然に防ぐ... 続きを読む
相次ぐ「AI偽動画」あなたはディープフェイクを見抜けますか？ | NHK
ニュースでアナウンサーに投資を呼びかけられたら…。 岸田総理大臣がいきなりテレビで卑わいな話をし始めたら…。 そんな本人が話していない内容を、実際に話しているように見せる偽物の動画がSNSで広まりました。 こうした偽動画、いまでは生成AIによって簡単に作れるようになっています。 果たして見抜くことはできるの... 続きを読む
表現の自由戦士は変態糞岸田のディープフェイクも擁護すべきだろ
自民党公認売春不倫野郎の養分だからできんのか？ 続きを読む
AI悪用で巧妙化する性的恐喝 存在しないわいせつ画像をでっち上げ 米国では自殺者も
2023/06/14
32 users
恐喝
横行
脅迫
手口
ＡＩ悪用
AI悪用で巧妙化する性的恐喝 存在しないわいせつ画像をでっち上げ 米国では自殺者も：この頃、セキュリティ界隈で AIを使って本物と見分けがつかないような偽コンテンツが簡単に作成できるようになり、一部の犯罪が悪質化している。SNS上の写真からディープフェイクのわいせつ画像をでっち上げ、脅迫に使う手口が横行... 続きを読む
裁判に提出された証拠映像に対して「これはディープフェイクだ」と反論する人々が登場することを専門家が懸念
2023/05/09
16 users
原告
懸念
ディー
実在
裁判
近年はAIの発達により、簡単に実在の人物が登場するディープフェイクの動画や音声を作成できるようになりました。そんな中、電気自動車メーカー・テスラの弁護団がテスラ車の死亡事故に関する裁判で、「原告が提出した音声はディープフェイクの可能性がある」と主張する事態が発生。裁判の証拠品に対して「これはディー... 続きを読む