ついにAI学習のためのデータが枯渇へ、データセットが不足しているAI企業は大規模で汎用的なLLMから小規模で専門性の高いモデルへの移行を余儀なくされる可能性大

2024/12/16 15 users Nature LLM 学術雑誌 AIモデル 現状

AIモデルの開発には学習資料となるデータセットが必要不可欠ですが、すでに大規模なモデルはアクセスできるデータのほとんどを食い尽くしており、2028年までにデータを使い果たしてしまう可能性が指摘されています。AIとデータセットの現状について、学術雑誌のNatureがまとめています。 The AI revolution is running o... 続きを読む

完全にオープンで再現可能な大規模言語モデル「OpenCoder」がリリースされる

2024/11/11 13 users 上海 再現 大規模言語モデル オープンソース チーム

上海のAI企業「INF Technology」やオープンソースのAI研究コミュニティ「M-A-P」などに在籍する研究者のチームにより、最終モデルだけでなくトレーニングデータやデータ処理パイプラインなど、モデルを再現するのに必要な情報全てがオープンな大規模言語モデル「OpenCoder」が公開されました。 OpenCoder: Top-Tier Open... 続きを読む

画像生成AI「Stable Diffusion 3.5」ついに登場　「FLUX」と対決へ

2024/10/23 7 users Flux ブロン Stable Diffusion 対決 同日

AI企業のStability AIは10月22日、画像生成AIモデルの最新版「Stable Diffusion 3.5」シリーズを発表した。同日から利用可能な2つのモデルと、10月29日公開予定の一般向けモデルがある。 フラッグシップモデルの「Stable Diffusion 3.5 Large」は80億パラメーターで、1メガピクセルの高解像度画像生成に対応。特にプロン... 続きを読む

AI、ついにパソコンを使えるようになってしまう　Anthropic「Claude 3.5 Sonnet」新機能

2024/10/22 566 users Anthropic ゴーディン パソコン 刷新 コンピューター

AI企業のAnthropicは10月23日、大規模言語モデル「Claude 3.5 Sonnet」の刷新と、新モデル「Claude 3.5 Haiku」の導入を発表した。Claude 3.5 Sonnetには、AIモデルが人間のようにコンピューターを操作できるようになる新機能「コンピューター使用」が追加された。 アップデート版のClaude 3.5 Sonnetは、特にコーディン... 続きを読む

AI企業と大手出版社のライセンス契約はたぶんマズい

2024/09/24 12 users マズ 小切手 ライセンス契約 Getty Images 文章

以下の文章は、Michael Weinberg による Licensing Deals Between AI Companies and Large Publishers are Probably Bad の日本語訳である。 AI 企業と大手出版社のライセンス契約は、ほぼ皆にとってマズいことになるかもしれない。その契約で小切手を直接受け取ることがない人にとっては特に。 Getty Images や音楽レー... 続きを読む

「計算機アプリ作って」→AI「あいよ」　20万個以上のアプリが開発される

2024/09/19 542 users 計算機アプリ アプリ ウェブアプリケーション メタ 指示

メタが提供しているAIモデル「Llama 3.1」を活用したアプリ開発ツール「LlamaCoder」が人気を集めている。 LlamaCoderは、AI企業のTogether AIが開発したオープンソースのウェブアプリケーション。「計算機アプリを作って」といった指示を与えるだけで、フルスタックのアプリケーションを生成する。メタのLlama 3.1 405B... 続きを読む

実験と論文執筆だけでなく査読まですべてAIが行う「AIサイエンティスト」を日本のAI企業「Sakana AI」がリリース

2024/08/14 9 users 論文執筆 Sakana AI 実験 リリース すべてAI

東京を拠点とするAI企業「Sakana AI」がオックスフォード大学とブリティッシュ・コロンビア大学との共同研究で、大規模言語モデル(LLM)を使って研究開発プロセスそのものを自動化する技術「AIサイエンティスト」を開発したと発表しました。 [2408.06292] The AI Scientist: Towards Fully Automated Open-Ended Scientif... 続きを読む

「AIが開発した生物兵器」が国家安全保障上の懸念に浮上、アメリカ政府やAI企業が規制の検討に乗り出す

2024/08/06 7 users 浮上 懸念 生物兵器 規制 警鐘

近年のAI技術の発達は目覚ましく、人間が書いたように自然な文章を高い精度で生成するだけではなく、プログラムのソースコードを自動で記述したり、タンパク質の立体構造を予測したりすることも可能になっています。そして、専門家が「AIを利用することで新たな生物兵器を開発するハードルが下がっている」と警鐘を鳴ら... 続きを読む

Stable Diffusionのオリジナル開発陣がAI企業「Black Forest Labs」を立ち上げ独自の画像生成AIモデル「Flux」をリリース

2024/08/02 13 users Flux Stable Diffusion 画像生成AI

画像生成AIの「Stable Diffusion」などの開発に携わったAI研究者が、新しいAI開発企業の「Black Forest Labs」を立ち上げました。さらに、Black Forest Labsはパラメーターサイズが120億のオープンソース画像生成AIモデル「Flux」も発表しています。 Announcing Flux by Black Forest Labs: The Next Leap in Text-to-Im... 続きを読む

浮世絵生成AI「Evo-Ukiyoe」と浮世絵カラー化AI「Evo-Nishikie」が登場

2024/07/23 5 users Evo-Ukiyoe Sakana.ai 浮世絵 美術 登場

日本のAI企業であるSakana AIが、日本を代表する美術のひとつである浮世絵を生成するAIモデル「Evo-Ukiyoe」と、浮世絵を彩色するAIモデル「Evo-Nishikie」を発表しました。 日本の美を学んだAI：浮世絵風画像生成モデルEvo-Ukiyoeと浮世絵カラー化モデルEvo-Nishikieを公開 https://sakana.ai/evo-ukiyoe/ 浮世絵は世界... 続きを読む

AIを開発するために必要なデータが急速に枯渇、たった1年で高品質データの4分の1が使用不可に

2024/07/22 18 users 枯渇 クローリング 総量 使用不可 データ

AIの開発にはインターネットからかき集めたテキスト、画像、動画などのデータが大量に用いられています。しかし、クローリングの禁止やサービス利用規約の変更によりAI企業がウェブサイトから閉め出されたことで、高性能なAIのトレーニングに使えるデータの総量が1年で約5％、高品質なデータの約25％が使えなくなったこ... 続きを読む

OpenAIが内部メッセージングシステムに不正アクセスされAI技術関連の情報を盗まれていたことが発覚、FBIや一般ユーザーには通知なしで秘密にしていた

2024/07/05 14 users OpenAI NYT Technology Secrets

チャットAI・ChatGPTの開発元として知られるAI企業のOpenAIが、2023年初頭にハッキングされていたことが明らかになりました。 A Hacker Stole OpenAI Secrets, Raising Fears That China Could, Too - The New York Times https://www.nytimes.com/2024/07/04/technology/openai-hack.html NYT: Hacker stole details ab... 続きを読む

Metaのマーク・ザッカーバーグCEOがクローズドソースでAIを開発する競合他社を「神を創っているとでも思っているのでは」と批判

2024/06/28 8 users クローズドソース Meta YouTuber 批判 競合他社

Metaのマーク・ザッカーバーグCEOが、YouTuberのケイン・サッター氏によるインタビューの中で、競合するAI企業の開発がクローズドソースで行われていることに触れ、「まるで神を創っていると思っているようだ」と批判したと報じられています。 Mark Zuckerberg on Creators, AI Studio, Neural Wristbands, Holographic ... 続きを読む

OpenAIの現・元従業員ら、AIシステム構築の無謀さと秘密主義を告発

2024/06/05 33 users OpenAI 書簡 報復 米OpenAI 告発

米OpenAIの現従業員、元従業員のグループは6月4日（現地時間）、Google DeepMindの2人の従業員とともに、OpenAIを含むAI企業に対し、AIに関する安全性対策の改善と、危険性を報告した従業員の保護を求める書簡を公開した。 署名した13人中4人はOpenAIの現従業員として匿名で記載されている。 研究者が報復を恐れることな... 続きを読む

AIの仕組みであるLLMの「ブラックボックス」の内部を見てどのニューラルネットワークが特定の概念を呼び起こすかを知る試みをAnthropicが解説

2024/05/22 12 users Claude LLM Research Anthropic

チャットAI「Claude」などを開発するAI企業「Anthropic」がAIモデルの内部動作について、何百万もの概念がどのように表現されているかという研究結果を報告しました。 Mapping the Mind of a Large Language Model \ Anthropic https://www.anthropic.com/research/mapping-mind-language-model AIモデルの本体である大... 続きを読む

ソニーミュージック、ＡＩ企業に警告－コンテンツの無断使用防止で

2024/05/17 15 users ソニーミュージック

世界的大手レコード会社のソニーミュージックグループは、人工知能（ＡＩ）企業や音楽ストリーミング・プラットフォームに対し、明確な許可なく同社のコンテンツを使用しないよう警告した。 リル・ナズ・Ｘやセリーヌ・ディオンら数多くのアーティスト抱える同社は、アルバムのカバーアートやメタデータ、楽曲、歌詞など... 続きを読む

イーロン・マスクのAI企業が画像を理解可能なマルチモーダルAI「Grok-1.5」を発表、「GPT-4V」や「Gemini Pro 1.5」に匹敵する性能

2024/04/15 6 users イーロン マルチモーダルAI XAI GPT-4V マスク

イーロン・マスク氏が設立したAI企業「xAI」が、同社初のマルチモーダルAIモデル「Grok-1.5」を発表しました。Grok-1.5は画像の理解が可能で、「フローチャートを認識してコードを書く」「栄養成分表示を見てカロリーを計算する」といった操作が可能です。 Grok-1.5 Vision Preview https://x.ai/blog/grok-1.5v Grok-1.... 続きを読む

イーロン・マスクのチャットAI「Grok」は爆弾の作り方や麻薬の調合方法をジェイルブレイクしなくても教えてくるという指摘

2024/04/11 11 users Grok XAI ジェイル イーロン ジェイルブレイク

生成AIが発達する中で、危険な情報や非倫理的な文章・画像を生成しない安全機能がほとんどのAIには備わっています。一方で、安全機能を解除する「ジェイルブレイク」により規制を回避する方法も発見されています。イーロン・マスク氏が設立したAI企業のxAIが2023年11月に発表した独自の言語モデル「Grok」は、悪意のある... 続きを読む

生成AIの学習に用いた資料の公開を義務付ける「生成AI著作権開示法」案が提出される

2024/04/11 8 users 生成AI アダム シフ下院議員 学習 資料

アメリカ・民主党のアダム・シフ下院議員がAI企業に対し、生成AIモデルの開発に使用した著作権のある素材を開示することを義務付ける「生成AI著作権開示法(Generative AI Copyright Disclosure Act)」案を提出しました。この法案は、AI企業が著作権のあるコンテンツを不正に使用してツールを開発しているのではないかと... 続きを読む

既存のAIモデルを組み合わせて超高性能モデルを作る手法を日本のAI企業「Sakana AI」が開発、進化的アルゴリズムで膨大な組み合わせを試行し人間には発想困難な高性能LLMや画像生成モデル

2024/03/22 7 users アルゴリズム 発想 既存 Sakana AI 手法

東京に拠点を置くAI企業「Sakana AI」が、複数の生成AIモデルを進化的アルゴリズムを用いて組み合わせて新たなモデルを作り出す手法を開発しました。Sakana AIはすでに大規模言語モデルや画像生成モデルの作成に成功しており、各モデルは既存のモデルよりも高い性能を備えていることが確かめられています。 進化的アルゴ... 続きを読む

イーロン・マスクのチャットAI「Grok」がついにオープンソース化、他のオープンソースモデルより格段に優れているとの指摘も

2024/03/18 10 users Grok XAI イーロン 格段 返答

イーロン・マスク氏が立ち上げたAI企業のxAIが、少し毒のある返答を好むチャットAI・Grokのモデルデータをオープンソース化しました。公開されたのは特定の用途向けに最適化される前の生データであるため、ユーザーが必要に応じてモデルを最適化することができます。 Open Release of Grok-1 https://x.ai/blog/grok-os ... 続きを読む

TumblrやWordPressがユーザーデータをAIトレーニングに提供する契約を結ぼうとしていたことが判明

2024/02/28 13 users tumblr Automattic OpenAI 判明 SNS

SNSのTumblrとWordPressを保有するAutomatticが、AI企業であるOpenAIやMidjourneyと、AIのトレーニングのためにユーザーデータを提供する旨の契約を結ぼうとしていたことが明らかになりました。データがすでに提供済みかまだ提供されていないかは不明ですが、社内からは、契約には含まれないはずの個人的なデータまで提... 続きを読む

さまざまなチャットAIがどれくらい幻覚を見るのかをランキングにした「Hallucination Leaderboard」が公表される

2023/12/24 6 users 幻覚 chatgpt チャットAI 一方 ランキング

ChatGPTなどの大規模言語モデルは、まるで人間かのようにすらすらと言葉を操ることができますが、一方で事実とは異なる内容をあたかも真実であるかのように話す「幻覚」が発生することもあります。AI企業のVectaraが、さまざまな大規模言語モデルにおいてどれくらい幻覚が発生するのかを調査した結果を公表しました。 ve... 続きを読む

OpenAIはChatGPTを消去して作り直さなければならないかも知れない | TEXAL

2023/08/18 20 users OpenAI chatgpt TEXAL TOS スク

New York Times紙がサービス利用規約（TOS）を更新し、AI企業がAIモデルを訓練するために記事や画像をスクレイピングすることを禁止していることが明らかになったが、どうやら事態はそれだけでは収まらないようだ。 New York Times紙はOpenAIを提訴する準備を進めており、その結果次第ではChatGPTのデータセットは再構築... 続きを読む

ChatGPTのような高性能言語モデルを生み出した技術はどんな仕組みなのか？をAI企業のエンジニアが多数の図解でゼロから解説

2023/06/22 14 users OpenAI chatgpt 図解 チャットAI エンジニア

OpenAIが開発したChatGPTをはじめ、さまざまなAIが人間レベルの会話を行ってくれるようになりました。そうしたチャットAIがどのような技術で成り立っているのかをAssemblyAIのエンジニアであるマクロ・ランポニさんが知識ゼロでもわかる丁寧さで解説しています。 The Full Story of Large Language Models and RLHF http... 続きを読む