GPT-4o-miniのファインチューニングのすゝめ

2024/08/21 20 users ファインチューニング すゝめ 幻滅期 感想

突然ですが、みなさんLLMのファインチューニングしていますか？ 個人的な感想かもしれませんが、ファインチューニングは、幻滅期に入っているように感じています。 GPT-3.5 Turboのファインチューニングが発表されて以降、ファインチューニングしても思ったような出力をしてくれないので、ファインチューニングに期待し... 続きを読む

“コピー本”作るための専用アプリが登場。コンビニコピー機に出力、B5・右綴じ・20ページまで対応　ナカバヤシが「コンビニでコピー本をつくろう」提供開始

2024/08/16 29 users ナカバヤシ コンビニ コンビニコピー機 コピー本 専用アプリ

続きを読む

米Anker、出力を調整できるコントロールダイヤルや各ポートの出力や時間を確認できる2.26インチLCDディスプレイを備えアプリにも対応した合計250W出力の充電ステーション「Anker Prime Charger (25

2024/08/07 10 users 米Anker 充電ステーション LCDディスプレイ 各ポート

米Ankerが出力を調整できるスマートコントロールダイヤルや各ポートの出力や時間を確認できる2.26インチのLCDディスプレイを備えアプリにも対応した合計250W出力の充電ステーション「Anker Prime Char […] The post 米Anker、出力を調整できるコントロールダイヤルや各ポートの出力や時間を確認できる2.26インチLCDディ... 続きを読む

「Stable Diffusion」開発者たちが新たな画像生成AI「FLUX.1」を発表　迷走するStability AIと対照的な展開に

2024/08/02 16 users Stable Diffusion BFL 画像生成AI 展開

画像生成AIモデル「Stable Diffusion」の共同開発者たちによって設立されたベンチャー企業「Black Forest Labs（BFL）」は8月1日（現地時間）、高品質な画像生成能力と多様な出力が特徴の最新の画像生成AIモデル「FLUX.1」を発表した。 Stable Diffusionの共同開発者が設立 Black Forest Labs（BFL）は、オープンソース... 続きを読む

OpenAI、AIに人間にも分かりやすく説明させるアルゴリズムを提案

2024/07/18 6 users OpenAI LLM アルゴリズム 米OpenAI 人間

米OpenAIは7月17日（現地時間）、LLMの出力の信頼性と透明性を向上させるための新しいトレーニング方法を紹介する論文（PDF）を公開した。AIによる回答が本当に正しいのか、人間が理解しやすくするための取り組みだ。 このトレーニング方法は、「Prover-Verifier Games（証明者ー検証者ゲーム）」と」呼ばれるゲーム理論... 続きを読む

Microsoft、RAGの機能を拡張、強化させたGraphRAGを一般利用可能に | gihyo.jp

2024/07/04 54 users Rag GraphRAG LLM gihyo.jp 拡張

Microsoft⁠⁠、RAGの機能を拡張⁠⁠、強化させたGraphRAGを一般利用可能に Microsoftは2024年7月2日、LLMが生成する出力の精度を向上させるために利用するRAG（検索拡張生成）の機能を拡張/強化した「GraphRAG」をGitHub上で公開した。 GraphRAG: New tool for complex data discovery now on GitHub -Microsoft Research B... 続きを読む

解説：生成AIのハルシネーションはなぜ起きるのか

2024/06/24 11 users ハルシネーション LLM 生成AI 幻覚 チャットボット

大規模言語モデルが「ハルシネーション（幻覚）」を生成することはよく知られている。ただ、その仕組みから明らかのように、LLMの出力は本質的にはすべてハルシネーションであり、間違いが発覚したものがそう呼ばれているだけだ。 by Will Douglas Heaven2024.06.24 4 この記事の3つのポイント チャットボットは間違った... 続きを読む

｢最新の生成AI｣はすでに人類の半数以上よりアタマが良い…落合陽一｢今後､人類の働き方は大きく変わる｣ すごいスピードで現在も進化している

2024/06/21 10 users アタマ 落合陽一 生成AI 人類 半数以上

本物を選ぶ「審美眼」が必要 現在、数々の生成AIが生まれています。そんななか、よく質問を受けるのが「生成AIを上手に使いこなせる人と使いこなせない人の差」について。僕自身が考える、両者の一番大きな差は「審美眼」だと思います。簡単に言えば、膨大な出力とねばり強く「選ぶ力」ですね。 生成AIが10個のプロトタ... 続きを読む

詳解 "Fixing For Loops in Go 1.22" 自作linterをgolangci-lintへコントリビュートした話

2024/06/08 10 users プレビュー ループ変数 インスタンス ご存知 詳解

Go1.22から(プレビューはGo1.21から)ループ変数のメモリ共有問題が解消されたことは皆様よくご存知かと思います。 cf. Fixing For Loops in Go 1.22 それではもう1歩踏み込んで、ループ変数がイテレーション毎に異なるインスタンスになるのはどのような時でしょうか？以下2つの出力が異なる理由をどう説明できるでしょう... 続きを読む

GPT-4o の概要｜npaka

2024/05/13 237 users npaka Omni GPT-4o 対話 コンピュータ

以下の記事が面白かったので、簡単にまとめました。 ・Hello GPT-4o 1. GPT-4o「GPT-4o」 (「omni」の「o」) は、人間とコンピュータのより自然な対話に向けた一歩です。テキスト、音声、画像のあらゆる組み合わせを入力として受け入れ、テキスト、音声、画像の出力のあらゆる組み合わせを生成します。 音声入力にはわず... 続きを読む

ED法と3値(+1,-1,0)のアイデアを元に新しい活性化関数(ExP2)を作ってGELUと性能比較してみたら。単純なCNNでMINIST精度 99.43%が出た - Qiita

2024/04/30 7 users Qiita ニューラルネットワーク CNN 誤差 誤差逆伝播法

ED法と3値(+1,-1,0)のアイデアを元に新しい活性化関数(ExP2)を作ってGELUと性能比較してみたら。単純なCNNでMINIST精度 99.43%が出たDeepLearningPyTorch活性化関数誤差逆伝播法ED法 初めに 誤差逆伝播法を用いずに、興奮性・抑制性ニューロンの出力を調整することでニューラルネットワークの学習を進める金子さんの誤差... 続きを読む

謎の高性能AIモデル「gpt2-chatbot」がChatbot Arenaに登場、GPT-4.5かGPT-5なのではないかと話題に

2024/04/30 10 users Chatbot Arena GPT-2 GPT-5 ユーザー

ユーザーがログインせずに様々な言語モデルとチャットしてその出力を評価することができるウェブサイト「LMSYS.org」のChatbot Arenaで、「GPT-4.5」あるいは「GPT-5」と思われるモデルがテストされているのではないかと話題になっています。 GPT-2? https://rentry.co/GPT2 GPT-4.5 or GPT-5 being tested on LMSYS? | ... 続きを読む

半島の原発を大地震が直撃したら…　四国の震度6弱で避難リスク再燃　「逃げ場がなくなる」能登と同じ構図：東京新聞 TOKYO Web

2024/04/19 29 users 再燃 逃げ場 四国電力伊方原発 想定震源域 能登半島地震

四国で初めて震度6弱を記録した17日深夜の地震。愛媛県の四国電力伊方原発は運転を続けているが、発電機の出力が2％低下した。典型的な半島部の原発で、能登半島地震で浮上した避難リスクが再燃。想定震源域に入る南海トラフ巨大地震以外にも、多くの地震の危険を抱える。大地震が直撃したら、本当に逃げられるのか。地... 続きを読む

文字を正しく出力できる画像生成AI「Stable Diffusion 3」がAPI経由で利用可能に

2024/04/18 9 users Stable Diffusion api経由 画像生成AI

高画質画像生成AI「Stable Diffusion 3」のAPIが2024年4月17日に公開されました。Stable Diffusion 3は既存のAIでは失敗することの多い「文字の出力」を得意としています。 Stable Diffusion 3 API のご紹介 — Stability AI Japan https://ja.stability.ai/blog/stable-diffusion-3-api Stable Diffusion 3はStability A... 続きを読む

日本最大のメガソーラーは建築確認なしで買取価格40円の無法地帯

2024/04/16 110 users 無法地帯 宇久島 総工費 民主党政権 適用除外

長崎県の宇久島で計画されている日本最大のメガソーラーが、5月にも着工する。出力は48万kWで、総工費は2000億円。パネル数は152万枚で280ヘクタール。東京ディズニーランドの5倍以上の巨大な建築物が、県の建築確認なしで建設される。民主党政権が太陽光発電を建築基準法の適用除外にしたからだ。 2012年度の買取価格40... 続きを読む

今すぐ使える！　ChatGPTで欲しい回答を生み出す「プロンプト」の書き方　その基本パターンを解説

2024/04/05 12 users chatgpt プロンプト プロンプティング 基本パターン

ChatGPTを使ってはみたものの、思うような出力（回答）が得られずに「使い勝手が悪い」と感じていないだろうか。もしかしたら指示や質問の仕方に改善の余地があるかもしれない。本稿では、ChatGPTなどの生成AIをよりうまく扱うための「プロンプティング」の基本について、知識を整理していこう。 生成AIをコントロールす... 続きを読む

MetaのAIでアジア人が一時生成不可に、「アジア人と白人のカップル」を出力できない問題で

2024/04/05 13 users Meta 白人 画像生成AI カップル 白人女性

「アジア人男性と白人女性のカップル」など画像が生成ができないことが取り沙汰されたMetaの画像生成AIが、一時的にアジア人の出力をすべて一律に停止したことがわかりました。 AI-generated Asians were briefly unavailable on Instagram - The Verge https://www.theverge.com/2024/4/4/24121419/meta-instagram-ai-i... 続きを読む

量子コンピューティングの膨大なエラーの原因となる「ノイズ」を800倍抑える次世代技術をMicrosoftとQuantinuumが開発したと発表

2024/04/04 9 users 量子コンピューティング 量子ビット 量子コンピューター 従来

将来的な実用化に向けて開発が進められる量子コンピューターは、記事作成時点で量子ビットの初期状態の設定から出力の読み取りまでのあらゆる場面でエラーが発生する可能性があり、できることが大きく制限されています。2024年4月3日、Microsoftと量子コンピューティング企業のQuantinuumが、「従来の物理量子ビットから... 続きを読む

AIは関数、人間の知能にはハッシュっ関数ぽい振る舞いがある？

2024/04/02 12 users 関数 知能 人間 LLM 重み

現代のAIはモデルって呼ばれてる奴は重みが調整された巨大なデータ構造です。 データ構造は多分ニューラルネット的なやつが一般的なのでは。知らんけど。あ、私素人ですので、あまり真面目に聞かないでください。 そんでこのモデルは入力に応じて出力が変わります。LLMなら猫っていれたら、猫について語りだして猫この特... 続きを読む

画像生成AIで「文字の出力」が難しいのは「外国人の謎漢字タトゥー」と似た原因という指摘

2024/03/24 7 users 画像生成AI 指摘 スペル Stable Diffusion

Stable DiffusionやDALL-E 3などの画像生成AIを使っていると「文字の代わりに謎の模様が出力される」「短い単語なのにスペルが違う」といった問題に遭遇しがちです。画像生成AIが「文字の出力」を苦手とする理由について、ソーシャルニュースサイトのHacker Newsで激論が交わされています。 Ask HN: Why can't image gen... 続きを読む

USB充電器で丸型や角型プラグのノートPCを充電できる変換ケーブルがエレコムから - エルミタージュ秋葉原

2024/03/19 22 users エレコム エルミタージュ秋葉原 充電 変換ケーブル 本社

USB充電器で丸型や角型プラグのノートPCを充電できる変換ケーブルがエレコムから 2024.03.19 14:53 更新 2024.03.19 配信 出力は20V/3Aに対応 エレコム株式会社（本社：大阪市中央区）は2024年3月19日、USB充電器でノートPCの充電ができる変換ケーブル「DC-PDF20BK」「DC-PDL20BK」を発表した。即日販売が開始され、市場... 続きを読む

陸自ヘリ事故 調査報告書の内容判明 「ロールバック」が原因か | NHK

2024/03/10 20 users 陸自ヘリ事故 NHK ロールバック 内容判明 ヘリコプター

去年、沖縄県の宮古島沖で陸上自衛隊のヘリコプターが墜落して10人が死亡した事故の調査報告書の内容が判明しました。エンジンの出力が徐々に低下する「ロールバック」と呼ばれる現象が起きたことなどが原因としていて、近く内容が公表される見通しです。 去年4月、沖縄県の宮古島沖で陸上自衛隊のUH60ヘリコプターが墜... 続きを読む

「ExcelでChatGPTを再現するシート」が想像以上に素晴らしかった (2/4)

2024/03/08 9 users chatgpt output input Action タブ

まずはこの図を見てほしい。一番左の「GPT2 Phase」はGPT-2のそれぞれの処理（フェーズ）を、「Action」はそれぞれの処理でやっていること、「Tab in Spreadsheet」は対応するExcelのシート名をあらわしている。 Excelで左から右へタブを実行していくことで、この図の上から下まで、つまり入力（Input）から出力（Output... 続きを読む

AIを操る「プロンプトエンジニア」がAIによって駆逐されつつある

2024/03/08 165 users プロンプトエンジニア プロンプト エンジニア 命令文 行為

「プロンプトエンジニアリング」は、意図した通りの出力を得るためにAIへの命令文であるプロンプトを調整する行為です。これまで、プロンプトエンジニアリングは人間のエンジニアによって行われてきましたが、プロンプトの作成自体にもAIを使用した方がパフォーマンスが向上するという研究結果が発表されました。 [2402.... 続きを読む

AIによる著作権侵害を調べるPatronus AIの「CopyrightCatcher」によるとGPT-4の出力の44％が著作権で保護されたコンテンツで他の大規模言語モデル(LLM)と比べて最悪であることが判明

2024/03/07 11 users LLM OpenAI コンテン GPT-4 頻度

元Metaの研究者たちが設立した、企業による生成AI活用を支援するための業界初の大規模言語モデル(LLM)自動評価プラットフォーム「Patronus AI」が、主要なLLMが著作権で保護されたコンテンツを生成する頻度を調査しました。このテストにより、OpenAIの開発するGPT-4は競合LLMと比べて圧倒的に著作権で保護されたコンテン... 続きを読む