AI生成の児童ポルノが爆増しており児童搾取に関する報告システムが機能不全に陥る恐れがあるとインターネット監視団が警告

2024/04/23 16 users 児童搾取 児童ポルノ 警告 機能不全 system

1998年から運営されている児童性的虐待ホットライン「CyberTipline」が十分に機能しておらず、今後、「AI生成の児童ポルノ」が増えると、本物の虐待被害者を見つけることはさらに難しくなっていくと、専門家が指摘しています。 How to Fix the Online Child Exploitation Reporting System | FSI https://cyber.fsi.stan... 続きを読む

Adobe、Premiere Proの生成AI機能を先行公開。OpenAI SoraやRunwayのモデルも統合、物体の追加・削除やフレーム生成など | テクノエッジ TechnoEdge

2024/04/15 15 users RUNWAY TechnoEdge firefly 物体 統合

NAB Show 2024にあわせて、Adobeが動画編集アプリ Premiere Pro に追加予定の生成AI機能を先行公開しました。 Adobeが公開したデモは、実写動画から不要な物体や部分を1クリックで選択して削除したり、AI生成で被写体を追加、衣装など部分を変更、クリップの長さを延長など。 動画生成にはAdobeが独自に開発中の Firefly... 続きを読む

AI生成の偽弁護士と偽DMCA通知を駆使した新手の「SEO詐欺」の事例が報告される

2024/04/06 11 users 事例 Medi DMCA 新手 実体

実体のない法律事務所から届いた、デジタルミレニアム著作権法(DMCA)をちらつかせた通知を調べたところ、「依頼主のウェブサイトにバックリンクを張らせて検索結果での順位を押し上げることを請け負う」というSEO詐欺であることが明らかになったとして、判明の経緯や依頼主を直撃した結果をIT系ニュースサイトの404 Medi... 続きを読む

Instagram、Facebook、ThreadsのAI生成画像のラベル表示、5月から本格化

2024/04/05 10 users Instagram Facebook threads ラベル

米Metaは4月5日（現地時間）、Instagram、Facebook、Threads上に投稿されたAI生成画像への「Made with AI」ラベル表示を5月から本格化させると発表した。“業界標準のAI画像指標”を検出した場合、またはユーザーがAI生成だと明らかにした場合にラベルを付ける計画だ。 AI生成コンテンツへのラベル表示については2月に発表... 続きを読む

【米大統領選2024】　トランプ氏支持者、AI生成の偽画像で黒人有権者を誘導＝BBC調査 - BBCニュース

2024/03/05 9 users 黒人有権者 共和党 BBC調査 誘導 BBCニュース

今年11月の米大統領選で、アフリカ系アメリカ人の有権者に共和党への投票を促すため、ドナルド・トランプ前大統領の支持者らが、人工知能（AI）で偽物の画像を生成・拡散している。BBC調査報道番組「パノラマ」が明らかにした。 BBCの調査では、黒人有権者が前大統領を応援しているように見えるディープフェイク（AIを使... 続きを読む

AI生成で３０万枚作ってわかったこと｜jun555

2024/02/21 598 users 30万枚

２０２２年の８月ころから生成AIとの付き合いを開始して、最初はMIDJOURNEY（初期バージョン）から始まり、NAIに移行し、MIDJORNEYのバージョンが上がって、NIJI-JOURNEYを少し触ったあたりで、RTX４０９０を買ってStable-Diffusionのローカル環境に場所を移しました。 ２０２２年８月から２０２３年２月まで、だいたい... 続きを読む

AI生成の巨大ペニスを生やしたネズミ画像、査読付き科学誌の論文に載ってしまい科学界困惑。学術的にもデタラメ | テクノエッジ TechnoEdge

2024/02/17 26 users ラット サイエンス TechnoEdge ガジェット全般 宇宙

ガジェット全般、サイエンス、宇宙、音楽、モータースポーツetc... 電気・ネットワーク技術者。実績媒体Engadget日本版, Autoblog日本版, Forbes JAPAN他 査読付きのオープンアクセス科学論文誌Frontiersは、掲載した論文にAIで生成した巨大なペニスを持つラットの図が使用されていたことで、科学者コミュニティをザワつ... 続きを読む

“AI生成の文章／画像だけ”でデータを学習する手法　人間が作るものは一切使わず　GoogleとMITが開発

2024/01/15 16 users MIT 手法 文章 Google 開発

このコーナーでは、2014年から先端テクノロジーの研究を論文単位で記事にしているWebメディア「Seamless」（シームレス）を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。 Twitter: ＠shiropen2 米Google Researchや米MIT CSAILに所属する研究者らが開発した論文「Learning Visio... 続きを読む

YouTube、テキストや鼻歌から楽曲をAI生成する機能

2023/11/17 16 users YouTube 鼻歌 楽曲 テキスト 機能

続きを読む

ＡＩ生成の児童性的画像、サイト運営者「削除するつもりない」…専門家から対策求める声

2023/11/11 107 users 専門家 サイト運営者

【読売新聞】　国内のサイトで、画像生成ＡＩで作られたとみられる児童の性的画像が大量に出回っている。欧米では警戒が強まっているが、日本では議論が進んでいない。「児童ポルノ」を巡っては、日本が「輸出国」になっているとして過去に国際的な批 続きを読む

ロビン・ウィリアムズの娘ゼルダ、AI生成で再現された父の姿や声が「個人的に不快」と非難 | テクノエッジ TechnoEdge

2023/10/03 9 users TechnoEdge テクノエッジ 非難

ガジェット全般、サイエンス、宇宙、音楽、モータースポーツetc... 電気・ネットワーク技術者。実績媒体Engadget日本版, Autoblog日本版, Forbes JAPAN他 米国の女優・監督兼プロデューサー、ゼルダ・ウィリアムズ氏は、すでに亡くなった人の遺志を考慮することなくAIで再現したり、置き換えたりする試みに対して「個人... 続きを読む

OpenAIがAI生成の文章かどうか判別するツールを「精度が低い」という理由でこっそり終了

2023/07/26 8 users OpenAI 精度 openai.com Blog 文章

OpenAIが、AIの生成した文章を判別できるツール「AI Text Classifier」の提供を終了したことがわかりました。 New AI classifier for indicating AI-written text https://openai.com/blog/new-ai-classifier-for-indicating-ai-written-text OpenAI Quietly Shuts Down Its AI Detection Tool - Decrypt https://decryp... 続きを読む

生成AIグラビアをグラビアカメラマンが作るとどうなる？第三回：実際の撮影とポーズ/構図の関係。openpose_handで指問題解決？ (西川和久) | テクノエッジ TechnoEdge

2023/07/25 352 users 西川和久氏 TechnoEdge グラビアカメラマン 連載

現役グラビアカメラマンでありソフトウェアエンジニアでもある西川和久氏が、画像生成AIを使ったリアルなAIグラビア作成技術を解説する連載の第三回。 今回はポーズ / 構図をテーマに、プロカメラマンとしての撮影スタイルとAI生成の共通点、現時点のAIでは難しい手指の表現を改善する技術についても説明します。(編集部... 続きを読む

GPT検出ソフト、非ネイティブの英語小論文の大半をAI生成と誤判定

2023/07/13 12 users 大半 誤判定 非ネイティブ

あなたが今読んでいるテキストは、人間の手によって「Googleドキュメント」に入力されたものだ。だが、別の場所で出くわすテキストは、そうではないかもしれない。テキスト向けの「ChatGPT」や画像向けの「Midjourney」のように、無料で公開されている生成人工知能（AI）プログラムの増加に伴い、人間が書いたテキストを... 続きを読む

【現状報告】AI生成グラビア写真集が猛烈な勢いで大量に Kindle ストアで配信されている件

2023/06/10 21 users Kindle ストア 勢い 現状報告 Kindle 新刊

【現状報告】AI生成グラビア写真集が猛烈な勢いで大量に Kindle ストアで配信されている件 2023-06-10-1 [Kindle][Programming] AI生成による写真集や画像集が猛烈な勢いで大量に Kindle ストアで配信されています。毎日の新刊のそこそこの割合がこのAI生成による画像集となっています。 AIによる画像は低コストでいくら... 続きを読む

このコンテンツはAI生成です…と明示することがEUで義務化へ

2023/06/09 78 users chatgpt 義務化 コンテンツ Kyle Barr 原文

このコンテンツはAI生成です…と明示することがEUで義務化へ2023.06.09 16:00 Kyle Barr - Gizmodo US ［原文］ （ 湯木進悟 ） 日本ではどうなる？ 今AIやChatGPTが大いに話題です。でも、すべてが歓迎されているというわけではなく、EUでは規制強化によって危険な兆候を抑え込もうという動きが活発化していますね。 そ... 続きを読む

TikTokで殺人事件の被害者が自分の最期を語る映像が増加中

2023/06/02 9 users TikTok Tru 最期 殺人事件 culture

過去に発生した殺人事件の被害者、主に子どもたちが、AI生成による姿で自分の身に何が起こったのか、最期はどうなったかを語るという映像がTikTokに大量に登場しています。 True Crime TikTok: AI Deepfakes Victims Are a Waking Nightmare – Rolling Stone https://www.rollingstone.com/culture/culture-features/tru... 続きを読む

最近の音楽ストリーミングはAI生成と思われる楽曲によるRadio等自動再生で汚染されていてとても悲しい「誰か対策を教えて欲しい」

2023/06/02 21 users rAdio 楽曲 音楽ストリーミング 対策 マジ

So Kobayashi / Begard @sktechsktech 最近の音楽ストリーミングは毒まみれである。AI生成と思われる楽曲によるRadio等自動再生の汚染状況を、私が観察した範囲で書きました。悲しいので誰か対策教えてくれ。マジで。 音楽ストリーミングにはびこる毒：AI生成楽曲 – MessAboutWithTechno messaboutwithtechno.wordpress.... 続きを読む

AI技術等に関する、サービス共通利用規約、pixivガイドライン改定のお知らせ

2023/05/31 31 users pixivガイドライン改定 pixiv サービ AI技術 一環

pixiv事務局です。 現在、pixivではAI生成作品に関わる各種変更を進めています。 ▼関連するお知らせ AI生成作品に関する作品検索オプションの追加と、その他改善のお知らせ AI生成に関わる問題と、対応についてご報告 サービス共通利用規約・ガイドライン類改定の事前のお知らせ その一環として、2023年5月31日にサービ... 続きを読む

Twitterで青バッジ付きアカウント複数がAI生成らしき「ペンタゴンで爆発」画像を拡散

2023/05/22 32 users Twitter ペンタゴン Twitter上 米国防総省 拡散

Twitter上で一時「ペンタゴンで爆発があった」とする画像付きツイートが拡散した。この画像はAIによって生成された可能性が高いと指摘された。ツイートは数時間で削除されたが、この影響で株式市場は一時下落した。 Twitter上で5月22日（現地時間）、青いチェックマーク付きの複数のアカウントがペンタゴン（米国防総省... 続きを読む

『AI生成に関わる問題と、対応についてご報告』へのコメント

2023/05/09 8 users 問題 コメント ご報告

Twitter連携機能をご利用のみなさまへ 代替手段として、ブックマーク完了後の共有メニューを新たに追加いたしました Twitter共有ダイアログの追加 こちらは、シェアアイコンがONの場合のみ表示されます Twitter・マストドン共有ボタンの追加 続きを読む

AI生成に関わる問題と、対応についてご報告

2023/05/09 333 users 本件 pixiv事務局 クリエイター 特定 問題

pixiv事務局です。 現在、AI生成に関わる問題について、お問い合わせを多数いただいております。 本件について、皆様にご心配をおかけしていることを深くお詫び申し上げます。 現在多くお問い合わせいただいているのは次の3点です。 問題① 特定のクリエイターが不利益を被ること 問題② プログラムなどで、クリエイターの... 続きを読む

昔発表した絵がＡＩで勝手に上書きされる、そのＡＩ画像もＡＩのエサとなり…、ＡＩ生成の輪廻転載を繰り返した画像がこちら

2023/03/25 7 users エサ AI画像 pic.twitter.com オタク 画像

おいまんじ @oimanji pixivに僕が昔描いた絵を海外のオタクがAIで上書きしたものをさらにAIで上書きして作ったと思われるホラー画像が転がってたのでツイッターにも展開します pic.twitter.com/KReAOAqXYy 2023-03-25 11:32:39 続きを読む

OpenAI、テキストが人間によるものかどうか判定するツールを無料公開

2023/01/31 43 users OpenAI chatgpt 英文 フィードバック 精度

ChatGPTを手掛けるOpenAIは、テキストがAI生成かどうかを判定するツールを無料公開した。1000文字以上の英文であれば、比較的高い精度で判定できるとしている。特に教育関係者からのフィードバックを求めている。 「ChatGPT」などを手掛ける米AI研究企業OpenAIは1月31日（現地時間）、テキストが人間が書いたものかAIが... 続きを読む

「ドローンで撮影した静岡の水害」AI生成のデマ写真が拡散　投稿者「投稿が広まると思わなかった」「ざまあｗｗ」

2022/09/26 10 users デマ 水害 リツイート イイネ ドローン

台風15号の影響で県内の各地が大きな被害を受けた静岡県（関連記事1／2）の様子を写したとする写真について、投稿者がデマだと認め、謝罪しました。9月26日16時00分現在、該当投稿はいいねとリツイートともに3600以上を記録するなど、大きく拡散されています。 拡散されているデマ写真の投稿 出回っている写真は、とある... 続きを読む