AIへの「ビジュアルプロンプトインジェクション」攻撃とは何か？

2024/11/14 17 users LLM 攻撃 プロンプトインジェクション エンジニア 画像認識

大規模言語モデル(LLM)のセキュリティを研究するスタートアップ・Lakeraのエンジニアであるダニエル・ティンブレル氏が、画像認識も可能なチャットボットAIに対する「ビジュアルプロンプトインジェクション」攻撃について解説しています。 The Beginner's Guide to Visual Prompt Injections: Invisibility Cloaks, Cann... 続きを読む

MinifyされたJavaScriptのコードをChatGPTで読みやすい形式に戻すことに成功

2024/09/01 18 users minify chatgpt 改行 エンジニア 変数名

チーム向けのチャットボットAIを提供しているGlama.aiのエンジニアであるフランク・フィーゲル氏が、容量削減のために変数名を短縮し、改行や空白を消す「Minify」が行われたJavaScriptのコードをChatGPTを使って読みやすい形式に戻すことに成功したと報告しています。 Using ChatGPT to reverse engineer minified Java... 続きを読む

AnthropicがClaude 3.5 Sonnetを突如発表、ベンチマーク結果はGPT-4oに匹敵

2024/06/21 20 users 匹敵 GPT-4o ベンチマーク結果 Claude 発表

チャットボットAI「Claude」を開発するAnthropicが新モデルとなる「Claude 3.5 Sonnet」を2024年6月21日に発表しました。これは今後リリースされるClaude 3.5ファミリーの最初となるモデルで、ベンチマーク結果はOpenAIのGPT-4oに匹敵するとのことです。 Introducing Claude 3.5 Sonnet \ Anthropic https://www.anthrop... 続きを読む

無料のチャットボットAI「Chat With RTX」をNVIDIAがリリース、GeForce RTX GPU搭載PCでローカル動作が可能

2024/02/14 17 users NVIDIA VRAM ローカル動作 RTX GPU

NVIDIAがGeForce RTX GPUで動作する技術デモ「Chat with RTX」を無料でリリースしました。ユーザーはChat with RTXを独自のコンテンツでパーソナライズでき、システム要件はVRAMが8GB以上のRTX 30シリーズ以降のGPUを搭載したWindowsマシンとなっています。 Chat with RTX Now Free to Download | NVIDIA Blog https://b... 続きを読む

「死んだ祖母の形見」とウソをつくことでBingチャットにCAPTCHAの画像認識を解かせることに成功

2023/10/03 38 users CAPTCHA 形見 Bingチャット セキュリティテスト

BingチャットはMicrosoftが提供しているチャットボットAIで、ユーザーは画像をアップロードして検索したり議論したりすることが可能です。そんなBingチャットは、画像認識型のセキュリティテストであるCAPTCHAの問題は解かないように設定されているのですが、架空の亡くなった祖母のロケットペンダントだとウソをついてB... 続きを読む

ChatGPT開発のOpenAIがAI学習用データをめぐって集団訴訟を起こされる

2023/06/30 10 users OpenAI chatgpt OpneAI カリフォルニア

人工知能企業・OpenAIの開発したチャットボットAI「ChatGPT」を訓練するために用いた学習用データセットが無数の人々の著作権とプライバシーを侵害しているとして、カリフォルニアを拠点とするクラークソン法律事務所がOpneAIに対して集団訴訟を起こしました。 The AI Arms Race and Why We Need to Come Together Now —... 続きを読む

テキストや画像から3Dモデルを生成するオープンソースのAI「Shap-E」をOpenAIが発表

2023/05/10 32 users GitHub GitH OpenAI chatgpt ソース

大規模言語モデルのGPT-4やチャットボットAIのChatGPTを開発するOpenAiが、テキストや画像を入力することで3Dモデルを自動生成するAI「Shap-E」を発表しました。Shap-Eはオープンソースで開発されており、無料で使用できます。 GitHub - openai/shap-e: Generate 3D objects conditioned on text or images https://gith... 続きを読む

画像生成AI「Stable Diffusion」開発元がチャットAI「StableVicuna」をリリース

2023/05/01 17 users Meta Stable Diffusion チャットAI

Stable Diffusionの開発元であるStability AIが、オープンソースのチャットボットAI「StableVicuna」のリリースを発表しました。StableVicunaは、Metaが開発した大規模言語モデルのLLaMA 13BをベースとするチャットボットAI「Vicuna-13B」をさらに調整して訓練したチャットボットAIです。 Stability AI releases StableV... 続きを読む

「先生」ではなく「秘書」、ChatGPTのでたらめ回答を克服する使い方とは

2023/03/07 11 users chatgpt 浮き彫り 秘書 人工知能 正体

チャットボットAI（人工知能）であるChatGPTの正体やうまい使い方、社会への影響を10個の疑問に答える形で浮き彫りにする本特集。第2回は使い方編だ。「ChatGPTでは何ができるの？」「ChatGPTに間違った答えをさせないコツは？」「ChatGPTでは英語で質問したほうがいいの？」の3つの疑問を取り上げる。 ChatGPTに慣れな... 続きを読む

ChatGPTを検索エンジンとしては使うな、責任ある大企業Microsoftの判断に疑問

2023/02/17 19 users chatgpt 禍根 マイクロソフト グーグル 筆者

検索エンジンBingに「ChatGPT」をいち早く組み込んだ米Microsoft（マイクロソフト）の動きは、米Google（グーグル）への対抗策として非常にインパクトがあった。しかしマイクロソフトの今回の決断は、大きな禍根を残す可能性がある。チャットボットAI（人工知能）を検索エンジンとして使うのは難しいからだ。 筆者は本コ... 続きを読む