似た文書をベクトル検索で探し出したい ~SentenceTransformersとFaissで効率的にベクトル検索~

2024/03/17 63 users 文書 ベクトル検索 ベクトル化 コード 用語説明

はじめに この記事では、ベクトル検索で似た文書を検索するコードを解説します。具体的には、Sentence Transformersライブラリを用いてベクトル化、Faissという近似最近傍探索ライブラリを用いて高速な検索を行います。 用語説明 ベクトル検索 ... 文書の検索にベクトルを使用する方法。例えば、文書に映画に関する内容... 続きを読む

アクセンチュアvs.電通､｢異業種バトル｣の第二幕

2023/10/23 168 users アクセンチュア 縄張り シグナル 電通 コンサル

コンサルの雄がまた一歩、広告会社の縄張りに踏み込んだ。 アクセンチュアは10月2日、広告・PR会社のベクトルから子会社のシグナルを買収した。 シグナルは2005年、ベクトルが手がけるPR案件におけるデジタル対応を目的に設立された。そのため複数のPR子会社を抱えるベクトルグループ内でも、SNSコンサルティングやWeb制... 続きを読む

GPTなどの大規模言語モデルは脳科学・記号論・言語学の観点で驚くほど良くできている｜梶谷健人 / Kent Kajitani

2023/09/21 9 users GPT LLM Kent Kajitani 比べ物 記号論

大規模言語モデルの優秀さの秘訣ChatGPTなどに代表されるサービスで採用されている大規模言語モデル（LLM）によって、AIは今までとは比べ物にならないくらい自然な対話ができるようになった。 なぜLLMでは自然な対話ができるかというとその秘訣の1つは、LLMは大量のテキストを学習する際に、文章内の単語を「ベクトル（... 続きを読む

OpenAIのEmbeddings APIを使って文の意味上の類似度を計算

2023/06/22 14 users OpenAI Bert chatgpt 類似度 計算

はじめに おはようございます。こんにちは。こんばんは。 GMOアドマーケティングのY-Kです。 前にBERTを使って文をベクトルに変換してからなんやかんやする記事を書いてから約半年が経過したのですが、その間にChatGPTが大きく流行り、言語生成系AIに大きな風が吹きました。 というわけで今回は、OpenAIのEmbeddings API... 続きを読む

高次元ベクトルを「矢印」とイメージするのがちょっとしっくりこない理由｜shi3z

2023/06/16 148 users 矢印 shi3z メタファー 足し算 引き算

なぜAIを考える時にベクトルを「矢印」と捉えるべきではないのか。 実際には矢印として考えたほうがいい例外もあります。 たとえば、特徴空間の任意の２点の引き算や足し算をするとき。 矢印のメタファーが使えます。 あるベクトルAから別のベクトルBを引いたベクトルCは、BからAへ伸びる矢印としてイメージするのは大丈... 続きを読む

超名門中学の物理研究部の資料を読んでいたら大学生も太刀打ちできないレベルのことやってた

2023/05/05 186 users 大学生 資料 量子力学 微積 キーチ

ぎーち(ブレイク兄) @BREAK_BROTHER ちょっと待って 昨日行った灘中校の物理研究部の資料を読んでて、 今まで灘はめちゃくちゃ頭良いからクソ難しい微分積分とか解いてるんだろうなぁとか思ってたんだけど、 中学生同士でベクトルやら微積、高校生同士で量子力学や超ひも理論とかを教え合ってたわ 今までの想定の20倍は... 続きを読む

「ラノベ属性山盛りすぎだろ」軍服を身にまとった世界の王族の画像を検索するとヨルダン国王だけ想定とベクトルが違いすぎる件

2023/04/22 20 users 軍服 王族 ヨルダン国王 pic.twitter.com 現象

けるちゃ @kerutya 軍服を身にまとった世界の王族の画像を検索するとき、ヨルダン国王のアブドラ2世だけ想定していたものとベクトルの異なる画像がゴロゴロ出てくる現象 pic.twitter.com/3ODDfPpRDk 2023-04-21 22:51:31 続きを読む

自分のScrapboxをChatGPTにつないだ - 西尾泰和のScrapbox

2023/03/08 280 users Scrapbox OpenAI chatgpt 西尾泰和 文書

ChatGPTに対する質問がこのScrapboxを参照するようにした ScrapboxのデータからOpenAI APIで埋め込みベクトルを作る クエリー文章に関連のある文書をベクトル検索で見つける その文書をChatGPT APIへのプロンプトに埋め込む Scrapboxを参照していない場合 >>> Kozanebaって何？ 回答できません。提供された情報が不十分... 続きを読む

Ryzen 9 7950XおよびApple M1 Maxの内積計算速度について - Qiita

2023/02/03 7 users Qiita Ryzen 演算性能 筆者 内積

背景 最近Ryzen 9 7950xを載せたPCを作ったのですが思ったより数値計算の速度が出なかったので、よく出てくる基本的な演算性能を調べてみました。今回は巨大なベクトルの内積の計算速度を対象とします。なお筆者はHigh-performance computingの専門家ではないので以下には間違いが含まれているかもしれません。 測定対象... 続きを読む

アジャイルと通過点とベクトル - Mitsuyuki.Shiiba

2022/12/24 9 users スクラム プラクティス うえ アジャイル リソース効率

昨日と比べて今日一歩前進してる？ もう10年以上前になるけど、計画とリソース効率を重視していた大きな組織の中で、より良いサービスづくりをしたいと、アジャイルなプラクティスやスクラムを取り入れてやり方を変えたことがある それは、うえから「アジャイルな開発をするように」とふってきたトップダウンな指示では... 続きを読む

[WebUI] Stable DiffusionベースモデルのCLIPの重みを良いやつに変更する

2022/11/29 10 users 前置き WebUI テキスト 基盤モデル 画像生成

簡単な記事なので前置きは省略します。 CLIPについて Stable Diffusionベースのモデルは、画像生成に際してテキストで条件づけを行う（a.k.a. txt2img）場合、CLIPという基盤モデルでテキストをベクトルに変換し、生成処理に渡しています。 つまり、入力したテキストをいかに的確に生成処理のモデルに伝えられるのかはCL... 続きを読む

イラスト生成AIに対するよくある誤解 - Qiita

2022/10/16 12 users Qiita Problem 誤解 イラスト生成AI 目次

Help us understand the problem. What are the problem? イラスト生成AIに対するよくある誤解 目次 イラスト生成AIに対するよくある誤解 目次 はじめに 注意事項 AIは既存のイラストを切り貼りしている/コラージュしている 解説 ベクトルについて 厳密には「切り貼り」も間違いではない AIのイラストは既存のイラストの... 続きを読む

単語を箱で表現！新たな埋め込み手法 Box Embedding を基礎から理解

2022/10/13 7 users 単語 手法 基礎 表現 理解

近年、単語をベクトルとして表現するベクトル表現が広く一般に用いられるようになりました。一方で、ベクトルでは表現できないデータも多く存在しており、その代表例が意味や概念の階層関係です。多義語に代表されるように、自然言語における単語は複数の意味を持ち、単語ごとに異なる意味の広がりを持つと考えるのが自... 続きを読む

【政界地獄耳】本音は「統一教会がなぜ悪いかわからない」 - 政界地獄耳 - 社会コラム : 日刊スポーツ

2022/08/19 8 users 政界地獄耳 統一教会 本音 日刊スポーツ カルト

★ネットには「実は自民党って統一教会の政治部に過ぎないんじゃないか」とか「もはや批判のベクトルは統一教会そのものより、カルトを切らない自民党へと向きはじめた」などの声が強まってきた。ところが岸田政権は内閣改造したものの、第1次内閣より教会関与者が増える状況に陥り内閣改造は失敗とまで言われ始めている... 続きを読む

古着通販「ベクトルパーク」に不正アクセス　1万8136人分のカード情報やセキュリティコードが漏えいか

2022/08/18 13 users セキュリティコード 漏えい 第三者 岡山県岡山市 不正アクセス

古着通販サイト「ベクトルパーク」を運営するベクトルは、同サイトが第三者による不正アクセスを受け、顧客1万8136人分のクレジットカード情報が漏えいした可能性があると発表した。 古着通販サイト「ベクトルパーク」を運営するベクトル（岡山県岡山市）は8月18日、同サイトが第三者による不正アクセスを受け、顧客1万8... 続きを読む

「数学を勉強して何の役に立つのか」と高校生に聞かれたときに「ロボットの開発に必要だ」と答えたらみんなのモチベーションが上がったのロボットは偉大

2022/07/19 5 users 数学 モチベーション ロボット 複素数 微分積分

Shinpei Kato (加藤真平) @ShinpeiKato 四谷大塚で講演したときに複素数とかベクトルとか微分積分とか勉強して何の役に立つのか高校生に聞かれたときに基本的にロボットの開発に必要だという回答でみんな数学勉強するモチベーション爆上がりしてたのでロボットは偉大だと思った。 2022-07-16 12:59:38 続きを読む

参院選の投票先お前らに委ねた

2022/07/02 129 users 参院選 有権者 お前ら 政党 根拠

どこに投票するべきか具体的な政党とその理由を答えよ 本来1票しかないけど、ここで説得力のある投票先と根拠を示せばお前らの1票は2票以上の価値を持つことになる ええやろ？ 自分で考えろとかいうやつ馬鹿だからな 本来選挙ってのは同じベクトルの要求を持った有権者が組織票を作ることでより影響力を持たせることが出... 続きを読む

弁護士が「エロサイト利用料500万請求されてます」という法律相談で虚無を感じた話→「詐欺は無くならない…」「行動力のベクトルがおかしい」

2022/06/30 241 users 虚無 問答 後日 詐欺 弁護士

ピピピーッ @O59K2dPQH59QEJx 役場相談会でのエロサイト利用料相談など。 ワイ「詐欺です。支払う必要ありません」 相談者「でも不安です」 みたいな問答を100回近く繰り返した末に、後日、相談者から、「合計500万振り込んだ。どうしたら良いか相談したい」みたいな問い合わせがある。 街弁は、虚無だ。 2022-06-29 16:... 続きを読む

婚約したけど、ためらっている

2022/06/27 252 users 晴れ姿 マリッジブルー 彼女 結婚式会場 内容

なんでだろ、マリッジブルーなのかな。 今、結婚式会場をどこにするか、いつにするか、どんな内容にするか、彼女は楽しそうに話している。 別にそれでいい。 結婚式自体は僕もしたいと思っている。 でも、会話していると彼女は自分の晴れ姿にだけにベクトルが向きすぎている気がしないでもない。 なんだろ、それに対する... 続きを読む

決定係数について - Qiita

2022/01/28 16 users Qiita Nospare パラメータ 線形回帰モデル 行列

はじめに 千葉大学/Nospareの米倉です．今回は決定係数について解説したいと思います． 決定係数とは まずは次のような線形回帰モデルを考えます， $$y=X\beta+\epsilon.$$ ここで$y,X,\beta$はそれぞれ，$n$次元の被説明変数のベクトル，$X$は説明変数ベクトルからなる$n\times d$の行列，$\beta$は$d$次元のパラメータ... 続きを読む

セガ、150ページ超の社内向け数学資料を無償公開　「3DCGの技術的基礎に」 - ITmedia NEWS

2021/06/16 1075 users セガ 行列 無償 教材 回転

セガは6月15日、社内勉強会で使った線形代数の教材を、公式ブログで無償公開した。ページ数は150以上。ゲーム開発に必要な3DCGの技術的基礎となる知識を学び直すために使ったものという。 2020年に行った社内勉強会向け教材の一部をPDF形式で公開。全8部構成で、ベクトルや行列、3次元での回転を計算するときに使う「ク... 続きを読む

ツイッターの登場で激変した　新聞と読者の関係：朝日新聞デジタル

2021/06/12 29 users 朝日新聞デジタル ツイッター 新聞 読者 登場

メディア空間考　三橋麻子（コンテンツエディター）　朝日新聞が発行され、100年以上になる。投稿欄などの例外はあるとはいえ、大きな流れでいえば、新聞は長らく、記者が書いて、編集者が組み、読者が読むものだった。ところが、この20年あまり、ベクトルは大きく変わっている。新聞社→読者の矢印は、双方向にかじを切... 続きを読む

統計学や機械学習でもよく使われる相関係数が分かるベクトル計算の基礎知識：「AI」エンジニアになるための「基礎数学」再入門（12） - ＠IT

2021/04/20 5 users 相関係数 図版 エンジニア 基礎数学 統計学

統計学や機械学習でもよく使われる相関係数が分かるベクトル計算の基礎知識：「AI」エンジニアになるための「基礎数学」再入門（12） AIに欠かせない数学を、プログラミング言語Pythonを使って高校生の学習範囲から学び直す連載。今回は「ベクトル」の計算と、その応用、相関係数について、図版とPythonコードを交えて解... 続きを読む

もう○美屋は不要、麻婆豆腐 - Android版ファイアーエムブレム ヒーローズ報告

2021/03/05 494 users 麻婆豆腐 ちゅ ヒーローズ報告 木綿豆腐 老若男女

世には簡便な調理済食品が溢れているが、どれもコストを抑えて老若男女を意識したようなベクトルの短いものが多くフラストレーションが溜まっていた自身は神戸物産ででかい甜麺醤を買ってきた。買ってきたからには使わなければならない。 ということで「ちゃんとした麻婆豆腐」である。 木綿豆腐 600g 豚挽肉 200g チュ... 続きを読む

Googleが開発した多言語の埋め込みモデル「LaBSE」を使って多言語のテキスト分類 - Ahogrammer

2020/09/16 7 users Ahogrammer てき タスク テキスト 多言語

自然言語処理において、テキストをその意味を考慮しつつ固定長のベクトルに変換する埋め込みモデルは重要です。文の意味をよく表現したベクトルを作ることができれば、テキスト分類や情報検索、文類似度など、さまざまなタスクで役立ちます。本記事では、Googleが開発した多言語の埋め込みモデル「LaBSE」を使って、テキ... 続きを読む