ChatGPTなどLLMの弱点“ハルシネーション”　「GPTは要素技術だ。商用という意味では遠い」

2023/05/23 18 users LLM chatgpt ハルシネーション 弱点 商用

ChatGPTのビジネス利用はブームだが、これをビジネスで活用しようとした場合、さまざまな課題がある。AIを活用したチャットボット開発などで知られ、ChatGPTのようなLLMの活用も進めているPKSHA Technologyが、商用利用のポイントについて語った。 ChatGPTのビジネス利用はブームだが、これをビジネスで活用しようとした... 続きを読む

LLMを理解する一歩として「ゼロから作るDeep Learning」をやった - $shibayu36->blog;

2023/05/23 304 users LLM conceptualization 考察 限界 気持ち

LLM、GPT界隈を追いかけていて、GPTの仕組みと限界についての考察（2.1） - conceptualizationという記事を見かけた。これを見たとき、「どういうことか全然理解できない」という気持ちになった。また、その他LLMの解説記事を理解できないことが多く、自分の機械学習知識不足が明確になった。 理解できなかったことは悔... 続きを読む

スパコン「富岳」で和製生成AI　東工大や富士通、23年度中に - 日本経済新聞

2023/05/22 110 users 富士通 富岳 東京工業大学 日本経済新聞 chat

開発には理化学研究所や東北大学も参加する。生成AIの基盤となる大規模言語モデルを独自に開発する。AIの学習にはオンライン百科事典の「ウィキペディア」などで公開されている日本語のデータなどを使い、日本語の対話能力を高める。日本企業として独自の生成AIの開発を目指すサイバーエージェントとも連携する。 日本で... 続きを読む

【文春オンライン「ChatGPTには逆立ちしてもできないことがある」平井鳥取県知事が誤解覚悟で「使用禁止」を訴えた真意】の記事を読んで｜ppp

2023/05/19 108 users ppp chatgpt Bard 真意 プロンプト

【文春オンライン「ChatGPTには逆立ちしてもできないことがある」平井鳥取県知事が誤解覚悟で「使用禁止」を訴えた真意】の記事を読んで ■はじめに　日曜日、chatGPT-4（以下「GPT」）のプロンプトや拡張機能を色々と試していました。また、GoogleのBardも使えるようになっていたので、素人なりに試行錯誤していました。... 続きを読む

ChatGPTがスマホアプリに、音声入力にも対応 - 日本経済新聞

2023/05/18 21 users chatgpt chat 手始め シリコンバレー アンドロイド

【シリコンバレー=渡辺直樹】米新興企業のオープンAIは18日、対話型AI（人工知能）「Chat（チャット）GPT」のスマートフォンアプリの配信を始めたと発表した。音声入力にも対応した。米アップルのiPhone向けに提供し、近く米グーグルの基本ソフト（OS）アンドロイドのスマホにも対応する。米国向けを手始めに今後数週間... 続きを読む

ChatGPT開発・OpenAIのCEO「高…（写真=ロイター） - 日本経済新聞

2023/05/16 20 users ロイター CEO chat シリコンバレー 日本経済新聞

【シリコンバレー=渡辺直樹】対話型人工知能（AI）「Chat（チャット）GPT」を開発した米新興オープンAIのサム・アルトマン最高経営責任者（CEO）は16日、米議会上院の小委員会で証言した。AIのリスクに対し「政府による規制面での介入が重要になる」と述べ、高度なAI開発とサービス提供にライセンス制を導入することを提... 続きを読む

GPTとfMRIを使って脳から言葉を読み取ることに成功、テキサス大が論文発表 | Ledge.ai

2023/05/13 6 users ｆＭＲＩ unsplash 主旨 Ledge.ai 論文

UnsplashのRobina Weermeijerが撮影した写真 GPTとfMRI（機能的磁気共鳴画像法）を使い、脳から言葉を読み取ることに成功したという主旨の論文が発表された。これはテキサス大学オースチン校助教、アレキサンダー・ハス氏らの研究チームによるもので、5月1日に学術誌「ネイチャー・ニューロサイエンス」に掲載された。 ... 続きを読む

ChatGPTにSVGでお絵描きさせる｜temoki / Tomoki Kobayashi｜note

2023/05/07 137 users chatgpt SVG テキストフォーマット Note ひよこ

ChatGPTはテキストを生成するGenerative AIであるが、SVGのようなテキストフォーマットの画像であれば描くことができるのではないか？と思い、試してみることにした。モデルにはGPT-4を使用し、GPTにひよこ🐤を描かせることをゴールとして始める。 svgのフォーマットを知っていますか？はいかいいえで答えてください。 ... 続きを読む

WebGPUでブラウザからGPTなど言語モデルを体験できる「WebGPT」

2023/05/06 15 users GitHub WebGPU API 言語モデル ブラウザ

GPUプログラミングをブラウザ上で行うことができるAPI「WebGPU」に、Google Chromeのバージョン113から正式に対応するようになりました。このWebGPUを使って、GPTなどの言語モデルをブラウザ上で体験できる「WebGPT」が公開されています。 GitHub - 0hq/WebGPT: Run GPT model on the browser with WebGPU. An implement... 続きを読む

Microsoft、対話AI型検索「Bing」を公開　ChatGPTより最新情報 - 日本経済新聞

2023/05/04 18 users Bing ピンク chat Microsoft マイクロソフト

【ニューヨーク=渡辺直樹】米マイクロソフトは4日、対話型の人工知能（AI）を搭載した検索エンジン「Bing（ビング）」の一般公開を始めたと発表した。対話型AI「Chat(チャット)GPT」を開発した米新興オープンAIの技術を取り入れた。基になるデータを最新にし、画像の自動作成機能も搭載した。検索で9割のシェアを握る米... 続きを読む

イナバ @inaba_desu Microsoftデータサイエンティストの @hiro_gamo さんが公開したChatGPTに関する資料（全90ページ）がAI理解にオススメ。 ・GPTの概要、活用事例、弱点 ・GPTのパターメーターやトー

2023/04/28 25 users chatgpt いなば トー 弱点 概要

続きを読む

大規模言語モデルの「脳波」をとって言葉を生成しているときにどこが活動しているのか見てみる - きしだのHatena

2023/04/27 18 users 脳波 chatgpt きしだのHatena 言語モデル 出力

ChatGPTなんかの大規模言語モデルが言葉を生成しているときに、どういう反応が起きているのか気になりますよね。きっと気になる。 ということで、手元で動かせる言語モデルのニューラルネット各層での出力を表示してみました。 GPTにはGPTブロックが複数あって、それぞれのブロックが２層のニューラルネットレイヤを持っ... 続きを読む

ChatGPT、履歴残さず利用可能に　OpenAIが設定追加 - 日本経済新聞

2023/04/26 6 users OpenAI chatgpt chat シリコンバレー 懸念

【シリコンバレー=山田遼太郎】人工知能（AI）開発の米新興オープンAIは25日、対話型AIの「Chat（チャット）GPT」で利用者が履歴を残さずにやりとりできる設定を追加したと発表した。同社に提供する情報を利用者が管理しやすくして、個人情報保護をめぐる懸念に対応する。 利用者が「チャット履歴」を残さないよう設定す... 続きを読む

OpenAIは”GPT”を商標登録できるのか（栗原潔） - 個人 - Yahoo!ニュース

2023/04/26 13 users OpenAI LLM 栗原潔 商標 メタバース

LLM（大規模言語モデル）の代表的存在であるGPT、および、その応用ChatGPTが、情報通信技術、そして、ビジネスの世界に革新的影響を与えていることに議論の余地はないでしょう（厳密には比較対象ではないですが、「メタバース」がすっかりかすんでしまいましたね）。 当然ながら、GPTという言葉には多大な顧客吸引力が生... 続きを読む

「ナントカGPT」の改称相次ぐ　OpenAIのガイドライン公開で

2023/04/25 18 users OpenAI ADA 改称 DaVinci CURIE

OpenAIはガイドライン内で、APIを利用した製品について「◯◯GPT」「GPT-4搭載の◯◯」「ChatGPT搭載の◯◯」といった表現は使わず、「Powered by GPT-4」や「Built with GPT-4」などと表現するよう求めている。OpenAIのモデルを指すときはGPT-3、GPT-4、ChatGPT、DALL・Eを使い、Ada、Babbage、Curie、Davinci、GPT-3.5-turbo... 続きを読む

「◯◯GPT」や「ChatGPT搭載」はNG　米OpenAIがブランドガイドライン公開

2023/04/25 198 users OpenAI chatgpt 文言 ChatGPT搭載 API

米OpneAIは現地時間4月24日、ChatGPTなどOpenAIブランドを利用する際のガイドラインを公開した。ロゴマークやその利用方法、また「ChatGPT」などの文言を利用する際の注意点が記されている。 例えば、OpenAIのAPIを利用した製品について「◯◯GPT」「GPT-4搭載の◯◯」「ChatGPT搭載の◯◯」といった表現は使わず、「Powered b... 続きを読む

GPTの仕組みをちゃんと勉強したい本 - きしだのHatena

2023/04/25 449 users ニューラルネットワーク 概観 CNN トランスフォーマー 概要

やっぱGPTを仕組みから勉強したい、という本をいくつか見つけたのでまとめておきます。 まず理論的な概要。 機械学習からニューラルネットワーク、CNNでの画像処理、トランスフォーマーでの自然言語処理、音声認識・合成、そしてそれらを組み合わせたマルチモーダルと章が進むので、理論的な概観を得るのにいいと思いま... 続きを読む

『ChatGPTによって描かれる未来とAI開発の変遷』日本マイクロソフト株式会社　蒲生 弘郷氏（2023年4月21日）

2023/04/24 17 users chatgpt 蒲生 OpenAI 変遷 MLエンジニア

2022年11月にOpenAIという企業がリリースしたChatGPTは、その高度な技術から瞬く間に注目を集め、日本でも話題になり、各企業が次々とGPTの活用を発表しています。 ユーザの立場ではAIネイティブな働き方が身近に迫っており、データサイエンティストやMLエンジニアにとってはGPTを活用した開発を意識する必要が出てくる... 続きを読む

ChatGPTをぬるぬるにする🐌Server-Sent Eventsの基礎知識

2023/04/21 153 users chatgpt Server-Sent Events 用途

単方向通信であるということと、HTTP/1.1上で動作しているのが大きな特徴です。 また、HTTP上で動作することから、通信の互換性が高く、セキュリティモデルも使いまわせるので安心です。 どんな用途と相性がいいの？ 双方向通信がしたいわけでなければ、相性の幅がとても広いです。 今回のChatGPTのような、GPTがトーク... 続きを読む

ChatGPTをGTPと間違える人のために解説します

2023/04/21 113 users GTP chatgpt レーシングカー ドラゴンボール 混乱

頭がごっちゃになる人続出！ 世界的ブームのChatGPT。これだけ朝から晩までChatGPT一色なら、もはやChatGTPと言い間違える人もいないだろうと思っていましたら、GPTとGTPの混乱はまだまだ続いているようです。 日本はレーシングカーのGT、ドラゴンボールのGTについ引っ張られちゃいますもんね。頭でわかっちゃいるんだけ... 続きを読む

0421DS協会_ChatGPTによって描かれる未来とAI開発の変遷.pdf

2023/04/21 163 users ＡＩ開発 未来 弱点 Microsoft アイディア

1 GPTの全体像 GPTとは何なのか ～チャットAIを例にした動作イメージ～ GPTによって実現されたサービス MicrosoftのGPT活用 国内のGPT導入の関連ニュース GPTに期待される用途の簡易マッピング GPTに関するFAQ GPT単体の弱点を理解 GPTは嘘をつく？ ～不正確性をカバーするアイディア～ GPTで描かれる未来 2 Microsoftと... 続きを読む

Google、AIの研究体制を再編　DeepMindと統合 - 日本経済新聞

2023/04/20 8 users 統合 Google 研究体制 日本経済新聞 奥平和行

【シリコンバレー=奥平和行】米グーグルは20日、人工知能（AI）の研究体制を再編すると発表した。2014年に買収し、「アルファ碁」の開発などで知られる英ディープマインドと組織を統合する。対話AI「Chat（チャット）GPT」の登場などでAIをめぐる競争が激しくなるなか、組織を一本化することで開発や実用化を加速する。 ... 続きを読む

Semantic Kernelを使ってGPTと外部ツールを簡単に連携してみる - Taste of Tech Topics

2023/04/18 28 users Taste of Tech Topics 外部ツール

こんにちは。最近湿度が上がってきてつらい@Ssk1029Takashiです。 最近当社ではAzure OpenAI Serviceを活用した検索ソリューションに取り組んでおり、私も開発として携わっています。 www.acroquest.co.jp そんな中でもOpenAIのGPT周りのアップデートが激しく、GPT-4のリリースなどニュースに事欠きません。 特にChatGPT... 続きを読む

AIが人間の意思決定を操作する｢本当の怖さ｣

2023/04/11 19 users 意思決定 人間 Bloomberg chat 台頭

国家間で生成AIの開発競争が繰り広げられる中、はたしてオープンAIが「中立的」と言えるのか、学術界では議論を呼んでいる（写真：Bloomberg） 「Chat（チャット）GPT」をはじめとする生成AI（人工知能）の急激な台頭で、AIの利用に対する社会的不安も高まっている。AIをめぐる人権やプライバシーに詳しい慶應義塾大学大... 続きを読む

GPTを実装したヒューマノイド、DeepLで日本語も喋る

2023/04/10 5 users ヒューマノイド DeepL 日本語

｢しめしめしながら針を投げる試験管｣？ かつてイーロン・マスクが｢キモいな｣と言った、Engineered Arts社のヒューマノイド｢Ameca（アメカ）｣。 指の動きも百面相も人間そのものといった造りですが、OpenAI社の自己回帰型の言語モデル｢GPT-3｣搭載でもっと流暢にコミュニケーションができるようになりました。 お喋りも人... 続きを読む