タグ ディープフェイク
人気順 5 users 50 users 100 users 500 users 1000 usersChatGPTがアメリカ大統領選挙の期間中に25万件ものディープフェイク画像作成を拒絶していたことが判明
2024/11/11
11 users
OpenAI
chatgpt
リクエスト
判明
投票
2024年11月5日に投票が行われたアメリカ大統領選挙において、ChatGPTに対して政治家等のディープフェイクを作るよう求めるリクエストが大量にあったことをOpenAIが明らかにしました。OpenAIは、投票日までの1カ月間で25万件ものリクエストを拒絶したと述べました。 How OpenAI is approaching 2024 worldwide elections ... 続きを読む
韓国の性的ディープフェイク 告発女性が明かす「ゆがんだ欲望」の実態 | 毎日新聞
2024/09/09
25 users
毎日新聞
欲望
実態
告発女性
韓国
ディープフェイクを共有するためのテレグラムのチャットルームには「記事を出す記者も陵辱しろ」との投稿もあった（パソコンの画面から。一部を加工しています）＝ソウルで2024年8月27日、日下部元美撮影 韓国で一般人の女性の写真や動画を元に生成人工知能（AI）を使用し作った、性的な偽画像「ディープフェイク」が拡... 続きを読む
ディープフェイク、国内で28倍に急増 崩れる日本語の壁 - 日本経済新聞
2024/08/28
22 users
生成AI
急増
人工知能
発達
詐欺集団
生成AI（人工知能）を使い偽の動画などを作る「ディープフェイク」による詐欺被害のリスクが日本でも急激に高まっている。英企業の調査で2023年に日本で確認されたディープフェイクは前年比28倍になった。生成AIの急速な発達で海外の詐欺集団にとって日本語はもはや壁でなくなりつつある。ディープフェイクはAIを使い生... 続きを読む
天文学者が銀河測定ツールを使ってAIが作成したディープフェイクを見分ける手法を発明
2024/07/23
27 users
銀河
天文学者
生成AI
発明
測定
by Adejumoke Owolabi 生成AIの普及に伴いAIを用いて作成された偽画像(ディープフェイク)を見分ける手法が求められるようになっています。イングランド・ハル大学の研究チームは、銀河の測定に使用するツールを利用してディープフェイクを見分ける手法を開発しました。 Want to spot a deepfake? Look for the stars in ... 続きを読む
AI裏垢女子に気を付けろ(ディープフェイクで裏垢動画を作ってみた)｜山野祐介
私事ですが、骨折して２か月ほど半寝たきり＆半引きこもり生活をしていました(動かな過ぎて痔になった)。なので連載以外は全く何もせず過ごしていたんですが、若干余裕が出てきたのでリハビリがてらnoteで好きなことを書きます で……久々にXを見て「おすすめ」タブに表示されていた裏垢女子を一度見たら、それからずっと... 続きを読む
AIによる「声」の復活とその脅威
2024/04/28
15 users
脅威
終焉
復活
翻訳
音声
The Atlantic誌に「外国語教育の終焉」（The End of Foreign-Language Education）という記事が載っていた。 この記事にもある通り、最近ではAIによって、外国語の文章の翻訳だけではなく、外国語を流暢に話す自分の音声やビデオすら、10ドルもあれば比較的簡単に作ることができる。ようするにディープフェイクだが、試... 続きを読む
同意なしの性的なディープフェイク画像作成を禁止する法案がイギリスで提出される、作成者に画像共有の意図があるかどうかは関係なし
2024/04/17
30 users
法案
意図
刑事罰
イギリス
同意
イギリス政府が「性的に露骨なディープフェイクを作成した卑劣な人々は、2024年4月16日に政府によって発表された新しい法律に基づいて訴追されることになる」と発表しました。当該法律は修正案を通じて導入される予定で、作成者に共有の意図がなかったとしても、刑事罰の対象になります。 Government cracks down on ‘de... 続きを読む
「顔」を盗むiPhoneマルウエア出現、ディープフェイクで銀行口座に不正アクセス
2024/02/28
12 users
生成AI
脅威
生体認証
人工知能
回避
生成AI（人工知能）などを悪用した「ディープフェイク」が大きな脅威になっている。その1つが「顔交換」。自分の顔を他人の顔にすげ替えた動画や画像を生成する。無料あるいは安価なツールやサービスが出回り、誰でも簡単に試せる状況になっている。 顔交換の悪用方法の1つが、生体認証の回避である。顔交換で他人になり... 続きを読む
ディープフェイクで「顔交換」、顔認証を突破する攻撃が約7倍に
2024/02/13
11 users
攻撃
顔認証
顔交換
ディープフェイク上司の指示に従い38億円を詐欺師に送金してしまう事態が発生、ディープフェイクを見分ける方法はあるのか？
2024/02/05
14 users
指示
事態
詐欺師
発生
方法
AI技術の発展に伴って、実在の人物にそっくりな顔や声を含む映像を作り出すディープフェイク技術の悪用事例も増えつつあります。香港では、会社のCFOを名乗る人物のディープフェイク映像にだまされた従業員が2億香港ドル(約38億円)を送金してしまう事例が発生しました。 Finance worker pays out $25 million after vide... 続きを読む
X(旧Twitter)で「Taylor Swift(テイラー・スウィフト)」が検索不可能に、ディープフェイクポルノ拡散防止のため
2024/01/28
14 users
旧twitter
Taylor Swift
グラミー賞
映像
グラミー賞も受賞した歌手テイラー・スウィフトのディープフェイク(AIを用いて作成された合成画像・映像)が、X(旧Twitter)で拡散されています。これを受け、Xでは検索機能で「Taylor Swift」と検索することが不可能になりました。 X is being flooded with graphic Taylor Swift AI images - The Verge https://www.thev... 続きを読む
ニコンやソニー、「AI偽画像」防ぐカメラ 電子署名で - 日本経済新聞
2023/12/29
20 users
ニコン
生成AI
ソニー
人工知能
電子署名
ニコンやソニーグループはフェイク画像を防ぐカメラ技術を実用化する。画像に撮影場所や撮影者、編集履歴などの情報を埋め込み、デジタル署名技術で画像の信頼性を確保する。生成AI（人工知能）で作った本物との見分けが難しい「ディープフェイク」が氾濫している。世界カメラ市場でシェア9割超を握る国内勢が情報インフ... 続きを読む
YouTube上では詐欺的広告動画がまん延しており、YouTubeはその存在を把握しているにもかかわらず削除対応に応じないとの指摘
2023/12/13
107 users
YouTube
YouTube上
イーロン・マスク
指摘
存在
YouTube上で再生される広告動画の中に、ディープフェイクで作成されたイーロン・マスクが「AIを活用したトレーディングボットを使えばリスクなしでわずか6カ月で100万ドル(約1億4500万円)を稼ぐことができる」と語る詐欺的動画が紛れ込んでいることが報告されています。この詐欺的動画を削除するようYouTubeに訴えかけて... 続きを読む
人には正しく聞こえるが“AIにはゆがんで聞こえる声”に変えるツール 合成音声に使われないために保護
2023/12/10
21 users
合成音声
ツール
保護
未然
悪用
（関連記事：「本人の声とそっくりな合成音声」の悪用に対して法的権利はあるか？ NTT社会情報研究所が調査） この脅威に対処するため、研究チームは「AntiFake」と呼ばれる新しい防御ツールを開発。このツールは従来のディープフェイクを後から検出する方法と異なり、被害者の声として合成されること自体を未然に防ぐ... 続きを読む
表現の自由戦士は変態糞岸田のディープフェイクも擁護すべきだろ
自民党公認売春不倫野郎の養分だからできんのか？ 続きを読む
AI悪用で巧妙化する性的恐喝 存在しないわいせつ画像をでっち上げ 米国では自殺者も
2023/06/14
32 users
恐喝
横行
脅迫
手口
ＡＩ悪用
AI悪用で巧妙化する性的恐喝 存在しないわいせつ画像をでっち上げ 米国では自殺者も：この頃、セキュリティ界隈で AIを使って本物と見分けがつかないような偽コンテンツが簡単に作成できるようになり、一部の犯罪が悪質化している。SNS上の写真からディープフェイクのわいせつ画像をでっち上げ、脅迫に使う手口が横行... 続きを読む
裁判に提出された証拠映像に対して「これはディープフェイクだ」と反論する人々が登場することを専門家が懸念
2023/05/09
16 users
原告
懸念
ディー
実在
裁判
近年はAIの発達により、簡単に実在の人物が登場するディープフェイクの動画や音声を作成できるようになりました。そんな中、電気自動車メーカー・テスラの弁護団がテスラ車の死亡事故に関する裁判で、「原告が提出した音声はディープフェイクの可能性がある」と主張する事態が発生。裁判の証拠品に対して「これはディー... 続きを読む
AI製のディープフェイクポルノ動画がGoogle検索でヒットするサイトで売買されている、有名人だけでなく一般人も標的に
2023/03/28
25 users
標的
NBCニュース
精度
ディープフェイク動画
ウェブサイト
高精度な画像合成AIの登場によって浮上した問題の1つが、他人の顔を無断で使用するディープフェイクポルノです。NBCニュースが、「Google検索で簡単に見つけられるウェブサイトに大量のディープフェイク動画が投稿されており、有名人だけでなく一般人を標的にしたディープフェイクの作成を請け負うビジネスも存在する」... 続きを読む
写真内の不要な顔だけ“実在しない顔”に置き替えるAI プライバシー保護に活用 Intelなどが開発
2022/12/01
19 users
プライバシー保護
開発
Innovative Tech
米ビンガムトン大学とIntel Labsに所属する研究者らは、写真内に写る指定した顔を実在しない偽の顔（ディープフェイク）に変換する深層学習モデルを提案した研究報告を発表した。 続きを読む
オシント新時代～荒れる情報の海：口座開設の顔認証を突破 ディープフェイクの脅威 | 毎日新聞
2022/01/03
19 users
毎日新聞
脅威
突破
オシント新時代
日立製作所
情報の海に入り込んだ悪意の象徴として、世界中で懸念が高まる「ディープフェイク」。人工知能（AI）の深層学習（ディープラーニング）と偽物（フェイク）を組み合わせた造語だ。いまや専門的な知識がなくても、スマートフォン一つで「偽物」が作れる時代になった。 2021年6月、人工知能学会で日立製作所のグループが発... 続きを読む
娘のライバル蹴落とすため……「ディープフェイク」でわいせつ動画作成の母親逮捕 - BBCニュース
2021/03/16
10 users
BBCニュース
母親逮捕
チアリーディング
チームメイト
逮捕
米ペンシルヴェニア州在住の母親がディープフェイク技術を使い、娘が所属するチアリーディングのチームメイトのわいせつな画像や動画を作成したとして、複数の嫌がらせの罪で逮捕・訴追された。娘のライバルをチームから追い出すためだったという。 逮捕・訴追されたのは、ペンシルヴェニア州に住むラファエラ・スポーン... 続きを読む
ディープフェイクで合成された顔を見分ける鍵は「目の輝き」 - GIGAZINE
2021/03/15
90 users
真偽
顔写真
反射
ニューヨーク州立大
GIGAZINE
AI技術を用いて架空の画像や映像を合成するディープフェイクは、人の目には真偽を見分けることが非常に難しい段階まで発展しており、実在しない人物の顔写真を簡単に作成できることからSNSなどでも大きな問題となっています。そんなディープフェイクの顔写真を、瞳に映った光の反射から見抜く技術を、ニューヨーク州立大... 続きを読む
「ディープフェイク」技術でアダルト動画作成か 初検挙 | IT・ネット | NHKニュース
2020/10/02
18 users
名誉毀損
初検挙
警視庁
本物
NHKニュース
AIを使って本物と見分けがつかないほど巧妙な偽の動画を作成する「ディープフェイク」と呼ばれる技術で、女性芸能人の偽のアダルト動画を作成し、インターネットで配信したとして、男2人が名誉毀損などの疑いで警視庁に逮捕されました。 警視庁によりますと、2人は去年12月からことし7月にかけて、アダルト動画の出演者... 続きを読む
AIで「フェイクポルノ」作成初摘発 容疑で2人逮捕 :日本経済新聞
2020/10/02
263 users
フェイクポルノ
名誉毀損
大槻隆信容疑者
容疑
警視庁
人工知能（AI）によって本物そっくりの動画を作成する「ディープフェイク」と呼ばれる技術を使ってアダルト動画を合成したとして、警視庁は2日、熊本市の大学生、林田拓海容疑者（21）と兵庫県三田市のシステムエンジニア、大槻隆信容疑者（47）を名誉毀損と著作権法違反の疑いで逮捕したと発表した。 警視庁によると、... 続きを読む
ツイッター社 「ディープフェイク」対策で新方針発表 | NHKニュース
2020/02/05
21 users
ユー
フェイクニュース
本物
ソーシャルメディア大手
課題
「フェイクニュース」による意図的な情報操作への対策が課題となるなか、ソーシャルメディア大手のツイッター社は、「ディープフェイク」と呼ばれる本物と見分けの付かない精巧な偽の映像などについて投稿内容を削除することも含む新たな方針を発表しました。 それによりますと、投稿された動画や画像などについて、ユー... 続きを読む