タグ ディープフェイク
人気順 10 users 50 users 100 users 500 users 1000 usersAIによる「声」の復活とその脅威
The Atlantic誌に「外国語教育の終焉」(The End of Foreign-Language Education)という記事が載っていた。 この記事にもある通り、最近ではAIによって、外国語の文章の翻訳だけではなく、外国語を流暢に話す自分の音声やビデオすら、10ドルもあれば比較的簡単に作ることができる。ようするにディープフェイクだが、試... 続きを読む
同意なしの性的なディープフェイク画像作成を禁止する法案がイギリスで提出される、作成者に画像共有の意図があるかどうかは関係なし
イギリス政府が「性的に露骨なディープフェイクを作成した卑劣な人々は、2024年4月16日に政府によって発表された新しい法律に基づいて訴追されることになる」と発表しました。当該法律は修正案を通じて導入される予定で、作成者に共有の意図がなかったとしても、刑事罰の対象になります。 Government cracks down on ‘de... 続きを読む
【米大統領選2024】 トランプ氏支持者、AI生成の偽画像で黒人有権者を誘導=BBC調査 - BBCニュース
今年11月の米大統領選で、アフリカ系アメリカ人の有権者に共和党への投票を促すため、ドナルド・トランプ前大統領の支持者らが、人工知能(AI)で偽物の画像を生成・拡散している。BBC調査報道番組「パノラマ」が明らかにした。 BBCの調査では、黒人有権者が前大統領を応援しているように見えるディープフェイク(AIを使... 続きを読む
「顔」を盗むiPhoneマルウエア出現、ディープフェイクで銀行口座に不正アクセス
生成AI(人工知能)などを悪用した「ディープフェイク」が大きな脅威になっている。その1つが「顔交換」。自分の顔を他人の顔にすげ替えた動画や画像を生成する。無料あるいは安価なツールやサービスが出回り、誰でも簡単に試せる状況になっている。 顔交換の悪用方法の1つが、生体認証の回避である。顔交換で他人になり... 続きを読む
ディープフェイクで「顔交換」、顔認証を突破する攻撃が約7倍に
ディープフェイク上司の指示に従い38億円を詐欺師に送金してしまう事態が発生、ディープフェイクを見分ける方法はあるのか?
AI技術の発展に伴って、実在の人物にそっくりな顔や声を含む映像を作り出すディープフェイク技術の悪用事例も増えつつあります。香港では、会社のCFOを名乗る人物のディープフェイク映像にだまされた従業員が2億香港ドル(約38億円)を送金してしまう事例が発生しました。 Finance worker pays out $25 million after vide... 続きを読む
X(旧Twitter)で「Taylor Swift(テイラー・スウィフト)」が検索不可能に、ディープフェイクポルノ拡散防止のため
グラミー賞も受賞した歌手テイラー・スウィフトのディープフェイク(AIを用いて作成された合成画像・映像)が、X(旧Twitter)で拡散されています。これを受け、Xでは検索機能で「Taylor Swift」と検索することが不可能になりました。 X is being flooded with graphic Taylor Swift AI images - The Verge https://www.thev... 続きを読む
ニコンやソニー、「AI偽画像」防ぐカメラ 電子署名で - 日本経済新聞
ニコンやソニーグループはフェイク画像を防ぐカメラ技術を実用化する。画像に撮影場所や撮影者、編集履歴などの情報を埋め込み、デジタル署名技術で画像の信頼性を確保する。生成AI(人工知能)で作った本物との見分けが難しい「ディープフェイク」が氾濫している。世界カメラ市場でシェア9割超を握る国内勢が情報インフ... 続きを読む
プーチン大統領のディープフェイクが本物のプーチン大統領と公開質疑で対面し本人に「影武者はいるの?」と質問
2023年12月14日にロシアのウラジーミル・プーチン大統領が年末恒例の質疑応答イベントを開催しました。このイベントの中で国民からの質問として「プーチン大統領の外見や声を再現したディープフェイクがプーチン大統領に質問する映像」が映し出され、プーチン大統領が自身のディープフェイクに対して応答する一幕があり... 続きを読む
YouTube上では詐欺的広告動画がまん延しており、YouTubeはその存在を把握しているにもかかわらず削除対応に応じないとの指摘
YouTube上で再生される広告動画の中に、ディープフェイクで作成されたイーロン・マスクが「AIを活用したトレーディングボットを使えばリスクなしでわずか6カ月で100万ドル(約1億4500万円)を稼ぐことができる」と語る詐欺的動画が紛れ込んでいることが報告されています。この詐欺的動画を削除するようYouTubeに訴えかけて... 続きを読む
人には正しく聞こえるが“AIにはゆがんで聞こえる声”に変えるツール 合成音声に使われないために保護
(関連記事:「本人の声とそっくりな合成音声」の悪用に対して法的権利はあるか? NTT社会情報研究所が調査) この脅威に対処するため、研究チームは「AntiFake」と呼ばれる新しい防御ツールを開発。このツールは従来のディープフェイクを後から検出する方法と異なり、被害者の声として合成されること自体を未然に防ぐ... 続きを読む
相次ぐ「AI偽動画」あなたはディープフェイクを見抜けますか? | NHK
ニュースでアナウンサーに投資を呼びかけられたら…。 岸田総理大臣がいきなりテレビで卑わいな話をし始めたら…。 そんな本人が話していない内容を、実際に話しているように見せる偽物の動画がSNSで広まりました。 こうした偽動画、いまでは生成AIによって簡単に作れるようになっています。 果たして見抜くことはできるの... 続きを読む
表現の自由戦士は変態糞岸田のディープフェイクも擁護すべきだろ
自民党公認売春不倫野郎の養分だからできんのか? 続きを読む
AI悪用で巧妙化する性的恐喝 存在しないわいせつ画像をでっち上げ 米国では自殺者も
AI悪用で巧妙化する性的恐喝 存在しないわいせつ画像をでっち上げ 米国では自殺者も:この頃、セキュリティ界隈で AIを使って本物と見分けがつかないような偽コンテンツが簡単に作成できるようになり、一部の犯罪が悪質化している。SNS上の写真からディープフェイクのわいせつ画像をでっち上げ、脅迫に使う手口が横行... 続きを読む
裁判に提出された証拠映像に対して「これはディープフェイクだ」と反論する人々が登場することを専門家が懸念
近年はAIの発達により、簡単に実在の人物が登場するディープフェイクの動画や音声を作成できるようになりました。そんな中、電気自動車メーカー・テスラの弁護団がテスラ車の死亡事故に関する裁判で、「原告が提出した音声はディープフェイクの可能性がある」と主張する事態が発生。裁判の証拠品に対して「これはディー... 続きを読む
AI製のディープフェイクポルノ動画がGoogle検索でヒットするサイトで売買されている、有名人だけでなく一般人も標的に
高精度な画像合成AIの登場によって浮上した問題の1つが、他人の顔を無断で使用するディープフェイクポルノです。NBCニュースが、「Google検索で簡単に見つけられるウェブサイトに大量のディープフェイク動画が投稿されており、有名人だけでなく一般人を標的にしたディープフェイクの作成を請け負うビジネスも存在する」... 続きを読む
「自分の声で脅迫がくる…」AI生成音声に悩む声優たち
「自分の声で脅迫がくる…」AI生成音声に悩む声優たち2023.02.22 19:30 Kyle Barr - Gizmodo US [原文] ( そうこ ) Tags : AI(人工知能) モダンホラーな脅迫。 AIが作り出した画像、文書、ディープフェイクな画像・動画が溢れている今日この頃。大統領や有名人のフェイク動画は出るたびに話題になります。一方、話題... 続きを読む
ディープフェイクでBECの悪質さが増す恐れ、電話相手も信じられない時代に
「2023年はディープフェイクを悪用するビジネスメール詐欺(Business Email Compromise、BEC)が増えるとみている。BECを自動化するサービスも登場するだろう」。トレンドマイクロの岡本勝之セキュリティエバンジェリストはこう見通す。 ディープフェイクとはAI(人工知能)を使って本物をそっくりにまねて作成した、偽... 続きを読む
写真内の不要な顔だけ“実在しない顔”に置き替えるAI プライバシー保護に活用 Intelなどが開発
米ビンガムトン大学とIntel Labsに所属する研究者らは、写真内に写る指定した顔を実在しない偽の顔(ディープフェイク)に変換する深層学習モデルを提案した研究報告を発表した。 続きを読む
Intelが映像内の「血流」を用いるリアルタイムディープフェイク検出器「FakeCatcher」を発表、検出精度は96%
Intelが「Responsible AI(責任あるAI)」の取り組みの一環として、ディープフェイクで作られたフェイク映像を96%の精度で検出できる「FakeCatcher」を発表しました。 Intel Introduces Real-Time Deepfake Detector https://www.intel.com/content/www/us/en/newsroom/news/intel-introduces-real-time-deepfake-detecto... 続きを読む
ディープフェイクの弱点を突いて偽物によるビデオ通話を見破る方法とは?
by Budiey 人工知能(AI)や機械学習などの技術を用いて精巧な偽のコンテンツを生成することができるディープフェイクは、「この世に存在しない架空の人物の写真」を作ることができたり、誰でも映画の予告編に登場できるサービスがあったりと、愉快な使い道がある一方で、求人募集の画像やビデオ通話での映像にディープフ... 続きを読む
オシント新時代~荒れる情報の海:口座開設の顔認証を突破 ディープフェイクの脅威 | 毎日新聞
情報の海に入り込んだ悪意の象徴として、世界中で懸念が高まる「ディープフェイク」。人工知能(AI)の深層学習(ディープラーニング)と偽物(フェイク)を組み合わせた造語だ。いまや専門的な知識がなくても、スマートフォン一つで「偽物」が作れる時代になった。 2021年6月、人工知能学会で日立製作所のグループが発... 続きを読む
超リアルなAI製ニセ画像「ディープフェイク」を作成したAIモデルの特定技術をFacebookが発表 - GIGAZINE
人工知能(AI)を使ってニセの人物画像を合成する「ディープフェイク」は、フェイクニュースに利用されやすく、またリベンジポルノの被害が出ていることからも問題視されている技術です。ディープフェイク技術が発達するにつれ、ディープフェイクを見分ける技術の必要性も高まっていますが、このアプローチの1つとしてFace... 続きを読む
文字を“ディープフェイク”するAI、Facebookが開発 フォントや手書き感をコピーして別単語に変換 - ITmedia NEWS
文字を“ディープフェイク”するAI、Facebookが開発 フォントや手書き感をコピーして別単語に変換 FacebookのAI研究チームは6月11日(現地時間)、写真に写るテキストから、そのフォントや手書きの癖をコピーできるAI「TextStyleBrush」を発表した。 FacebookのAI研究チームは6月11日(現地時間)、写真に写るテキストか... 続きを読む
「ディープフェイク」強まる懸念 AIで偽映像、犯罪利用も―「法整備検討を」:時事ドットコム
「ディープフェイク」強まる懸念 AIで偽映像、犯罪利用も―「法整備検討を」 2021年05月05日07時13分 【図解】改ざんされた記者会見写真 写真上で別の人と顔を入れ替えるアプリが人気を集めるなど、誰でも気軽に作れるようになった合成映像。一方で、人工知能(AI)を使って精巧に合成された「ディープフェイク」と... 続きを読む