AIによる「声」の復活とその脅威

2024/04/28 15 users 脅威 終焉 復活 翻訳 音声

The Atlantic誌に「外国語教育の終焉」（The End of Foreign-Language Education）という記事が載っていた。 この記事にもある通り、最近ではAIによって、外国語の文章の翻訳だけではなく、外国語を流暢に話す自分の音声やビデオすら、10ドルもあれば比較的簡単に作ることができる。ようするにディープフェイクだが、試... 続きを読む

同意なしの性的なディープフェイク画像作成を禁止する法案がイギリスで提出される、作成者に画像共有の意図があるかどうかは関係なし

2024/04/17 30 users 法案 意図 刑事罰 イギリス 同意

イギリス政府が「性的に露骨なディープフェイクを作成した卑劣な人々は、2024年4月16日に政府によって発表された新しい法律に基づいて訴追されることになる」と発表しました。当該法律は修正案を通じて導入される予定で、作成者に共有の意図がなかったとしても、刑事罰の対象になります。 Government cracks down on ‘de... 続きを読む

「顔」を盗むiPhoneマルウエア出現、ディープフェイクで銀行口座に不正アクセス

2024/02/28 12 users 生成AI 脅威 生体認証 人工知能 回避

生成AI（人工知能）などを悪用した「ディープフェイク」が大きな脅威になっている。その1つが「顔交換」。自分の顔を他人の顔にすげ替えた動画や画像を生成する。無料あるいは安価なツールやサービスが出回り、誰でも簡単に試せる状況になっている。 顔交換の悪用方法の1つが、生体認証の回避である。顔交換で他人になり... 続きを読む

ディープフェイクで「顔交換」、顔認証を突破する攻撃が約7倍に

2024/02/13 11 users 攻撃 顔認証 顔交換

続きを読む

ディープフェイク上司の指示に従い38億円を詐欺師に送金してしまう事態が発生、ディープフェイクを見分ける方法はあるのか？

2024/02/05 14 users 指示 事態 詐欺師 発生 方法

AI技術の発展に伴って、実在の人物にそっくりな顔や声を含む映像を作り出すディープフェイク技術の悪用事例も増えつつあります。香港では、会社のCFOを名乗る人物のディープフェイク映像にだまされた従業員が2億香港ドル(約38億円)を送金してしまう事例が発生しました。 Finance worker pays out $25 million after vide... 続きを読む

X(旧Twitter)で「Taylor Swift(テイラー・スウィフト)」が検索不可能に、ディープフェイクポルノ拡散防止のため

2024/01/28 14 users 旧twitter Taylor Swift グラミー賞 映像

グラミー賞も受賞した歌手テイラー・スウィフトのディープフェイク(AIを用いて作成された合成画像・映像)が、X(旧Twitter)で拡散されています。これを受け、Xでは検索機能で「Taylor Swift」と検索することが不可能になりました。 X is being flooded with graphic Taylor Swift AI images - The Verge https://www.thev... 続きを読む

ニコンやソニー、「AI偽画像」防ぐカメラ　電子署名で - 日本経済新聞

2023/12/29 20 users ニコン 生成AI ソニー 人工知能 電子署名

ニコンやソニーグループはフェイク画像を防ぐカメラ技術を実用化する。画像に撮影場所や撮影者、編集履歴などの情報を埋め込み、デジタル署名技術で画像の信頼性を確保する。生成AI（人工知能）で作った本物との見分けが難しい「ディープフェイク」が氾濫している。世界カメラ市場でシェア9割超を握る国内勢が情報インフ... 続きを読む

YouTube上では詐欺的広告動画がまん延しており、YouTubeはその存在を把握しているにもかかわらず削除対応に応じないとの指摘

2023/12/13 107 users YouTube YouTube上 イーロン・マスク 指摘 存在

YouTube上で再生される広告動画の中に、ディープフェイクで作成されたイーロン・マスクが「AIを活用したトレーディングボットを使えばリスクなしでわずか6カ月で100万ドル(約1億4500万円)を稼ぐことができる」と語る詐欺的動画が紛れ込んでいることが報告されています。この詐欺的動画を削除するようYouTubeに訴えかけて... 続きを読む

人には正しく聞こえるが“AIにはゆがんで聞こえる声”に変えるツール　合成音声に使われないために保護

2023/12/10 21 users 合成音声 ツール 保護 未然 悪用

（関連記事：「本人の声とそっくりな合成音声」の悪用に対して法的権利はあるか？　NTT社会情報研究所が調査） この脅威に対処するため、研究チームは「AntiFake」と呼ばれる新しい防御ツールを開発。このツールは従来のディープフェイクを後から検出する方法と異なり、被害者の声として合成されること自体を未然に防ぐ... 続きを読む

表現の自由戦士は変態糞岸田のディープフェイクも擁護すべきだろ

2023/11/04 13 users 自由戦士 表現

自民党公認売春不倫野郎の養分だからできんのか？ 続きを読む

AI悪用で巧妙化する性的恐喝　存在しないわいせつ画像をでっち上げ　米国では自殺者も

2023/06/14 32 users 恐喝 横行 脅迫 手口 ＡＩ悪用

AI悪用で巧妙化する性的恐喝　存在しないわいせつ画像をでっち上げ　米国では自殺者も：この頃、セキュリティ界隈で AIを使って本物と見分けがつかないような偽コンテンツが簡単に作成できるようになり、一部の犯罪が悪質化している。SNS上の写真からディープフェイクのわいせつ画像をでっち上げ、脅迫に使う手口が横行... 続きを読む

裁判に提出された証拠映像に対して「これはディープフェイクだ」と反論する人々が登場することを専門家が懸念

2023/05/09 16 users 原告 懸念 ディー 実在 裁判

近年はAIの発達により、簡単に実在の人物が登場するディープフェイクの動画や音声を作成できるようになりました。そんな中、電気自動車メーカー・テスラの弁護団がテスラ車の死亡事故に関する裁判で、「原告が提出した音声はディープフェイクの可能性がある」と主張する事態が発生。裁判の証拠品に対して「これはディー... 続きを読む

AI製のディープフェイクポルノ動画がGoogle検索でヒットするサイトで売買されている、有名人だけでなく一般人も標的に

2023/03/28 25 users 標的 NBCニュース 精度 ディープフェイク動画 ウェブサイト

高精度な画像合成AIの登場によって浮上した問題の1つが、他人の顔を無断で使用するディープフェイクポルノです。NBCニュースが、「Google検索で簡単に見つけられるウェブサイトに大量のディープフェイク動画が投稿されており、有名人だけでなく一般人を標的にしたディープフェイクの作成を請け負うビジネスも存在する」... 続きを読む

写真内の不要な顔だけ“実在しない顔”に置き替えるAI　プライバシー保護に活用　Intelなどが開発

2022/12/01 19 users プライバシー保護 開発 Innovative Tech

米ビンガムトン大学とIntel Labsに所属する研究者らは、写真内に写る指定した顔を実在しない偽の顔（ディープフェイク）に変換する深層学習モデルを提案した研究報告を発表した。 続きを読む

オシント新時代～荒れる情報の海：口座開設の顔認証を突破　ディープフェイクの脅威 | 毎日新聞

2022/01/03 19 users 毎日新聞 脅威 突破 オシント新時代 日立製作所

情報の海に入り込んだ悪意の象徴として、世界中で懸念が高まる「ディープフェイク」。人工知能（AI）の深層学習（ディープラーニング）と偽物（フェイク）を組み合わせた造語だ。いまや専門的な知識がなくても、スマートフォン一つで「偽物」が作れる時代になった。 2021年6月、人工知能学会で日立製作所のグループが発... 続きを読む

娘のライバル蹴落とすため……「ディープフェイク」でわいせつ動画作成の母親逮捕 - BBCニュース

2021/03/16 10 users BBCニュース 母親逮捕 チアリーディング チームメイト 逮捕

米ペンシルヴェニア州在住の母親がディープフェイク技術を使い、娘が所属するチアリーディングのチームメイトのわいせつな画像や動画を作成したとして、複数の嫌がらせの罪で逮捕・訴追された。娘のライバルをチームから追い出すためだったという。 逮捕・訴追されたのは、ペンシルヴェニア州に住むラファエラ・スポーン... 続きを読む

ディープフェイクで合成された顔を見分ける鍵は「目の輝き」 - GIGAZINE

2021/03/15 90 users 真偽 顔写真 反射 ニューヨーク州立大 GIGAZINE

AI技術を用いて架空の画像や映像を合成するディープフェイクは、人の目には真偽を見分けることが非常に難しい段階まで発展しており、実在しない人物の顔写真を簡単に作成できることからSNSなどでも大きな問題となっています。そんなディープフェイクの顔写真を、瞳に映った光の反射から見抜く技術を、ニューヨーク州立大... 続きを読む

「ディープフェイク」技術でアダルト動画作成か 初検挙 | IT・ネット | NHKニュース

2020/10/02 18 users 名誉毀損 初検挙 警視庁 本物 NHKニュース

AIを使って本物と見分けがつかないほど巧妙な偽の動画を作成する「ディープフェイク」と呼ばれる技術で、女性芸能人の偽のアダルト動画を作成し、インターネットで配信したとして、男2人が名誉毀損などの疑いで警視庁に逮捕されました。 警視庁によりますと、2人は去年12月からことし7月にかけて、アダルト動画の出演者... 続きを読む

AIで「フェイクポルノ」作成初摘発　容疑で2人逮捕　　:日本経済新聞

2020/10/02 263 users フェイクポルノ 名誉毀損 大槻隆信容疑者 容疑 警視庁

人工知能（AI）によって本物そっくりの動画を作成する「ディープフェイク」と呼ばれる技術を使ってアダルト動画を合成したとして、警視庁は2日、熊本市の大学生、林田拓海容疑者（21）と兵庫県三田市のシステムエンジニア、大槻隆信容疑者（47）を名誉毀損と著作権法違反の疑いで逮捕したと発表した。 警視庁によると、... 続きを読む

ツイッター社 「ディープフェイク」対策で新方針発表 | NHKニュース

2020/02/05 21 users ユー フェイクニュース 本物 ソーシャルメディア大手 課題

「フェイクニュース」による意図的な情報操作への対策が課題となるなか、ソーシャルメディア大手のツイッター社は、「ディープフェイク」と呼ばれる本物と見分けの付かない精巧な偽の映像などについて投稿内容を削除することも含む新たな方針を発表しました。 それによりますと、投稿された動画や画像などについて、ユー... 続きを読む

日本人アイドルも被害に。96％がポルノ動画の「ディープフェイク」政治的な悪用も

2019/12/08 511 users 悪用 造語 フェイク 顔写真 偽物

他人の顔写真をポルノ動画に重ねたり、表情を勝手に変えたりするAIによる動画の加工「ディープフェイク」が世界中で問題視されている。 ディープフェイクは、AIによる深層学習「ディープラーニング」と「フェイク」（偽物）を掛け合わせた造語だ。 有名女優から、政治家までが被害に遭っているという。いったい、何が起... 続きを読む

Googleも政治広告ポリシー変更　ターゲティングの制限強化やディープフェイク禁止など - ITmedia NEWS

2019/11/21 15 users ターゲティング Twitter 虚偽 ほか 制限強化

Twitterに続き、Googleも政治広告に関するポリシー変更を発表した。Twitterのように全面的に禁止するのではなく、ターゲティング方法を制限し、ディープフェイクを含む虚偽の内容の広告を禁止する。 米Googleは11月20日（現地時間）、政治広告についてのポリシー変更を発表した。EU圏では、英国での総選挙前に、そのほか... 続きを読む

英与党と野党の党首が互いを首相に推薦？　実は全部「ディープフェイク」 - BBCニュース

2019/11/14 10 users 党首 野党 互い ポリス 英与党

12月12日に総選挙が行われるイギリスのボリス・ジョンソン首相と、最大野党・労働党のジェレミー・コービン党首が、互いのことを次期首相に推薦する動画が、オンライン上に投稿された。 これは、「ディープフェイク」と呼ばれる高度な偽動画だ。 民主主義を損なうためのこうした偽動画が持つ影響力を知らしめるため、調... 続きを読む

つまらない安全講習ビデオをディープフェイクで「自分ごと化」する - 河本の実験室

2019/10/11 53 users 河本 実験室 自分ごと化

安全講習のビデオってつまらないですよね。 免許の更新、社内のeラーニング、飛行機の離陸時など、様々な場面で僕らは講習ビデオを見させられます。 いくら役者さんが迫真の演技で危険な場面を演じても、僕みたいに共感力が薄い人間にはどうしても「他人事」に見えてしまって適当に見流してしまいます。本当は大事なのに... 続きを読む

カリフォルニア州、選挙とポルノ関連のディープフェイク動画を取締り対象へ - Engadget 日本版

2019/10/07 14 users カリフォルニア州 ディープフェイク動画 選挙 有権者 対象

カリフォルニア州が、ディープラーニング技術を使って写真や映像に写る人物の顔を違和感なく別人に入れ替える"ディープフェイク"技術に関する2つの法律を承認しました。ひとつは選挙まで60日以内に、有権者を騙すことを目的とした動画を広める行為を違法化、さらに州内に住む人がディープフェイク技術を利用して自分の画... 続きを読む