言語モデルを高位合成でFPGAに実装してみた

2024/04/24 10 users FPGA LLM 高位合成 言語モデル 内山

言語モデルを高位合成でFPGAに実装してみた Turing株式会社のリサーチチームでインターンしているM1の内山です。 Turing株式会社では大規模基盤モデルによる完全自動運転を目指しており、その実現に欠かせない技術として大規模言語モデルの研究開発を行っています。 Generative AI LLMの広範な知識と思考能力に加え、視... 続きを読む

大規模言語モデル(LLM)の作り方 Megatron-DeepSpeed編

2023/06/29 129 users LLM Turing GPT-4 インターン 知見

はじめに Turing 株式会社のリサーチチームでインターンをしている東京工業大学 B4 横田研究室の藤井(@okoge_kaz)です。 大規模言語モデル(Large Language Model: LLM)への注目がGPT-4のリリース以降高まっていますが、LLMを作るための知見は十分に共有されているとは言い難いと個人的に感じています。 Turingでは、Visi... 続きを読む

GPT-3.5-turboの新機能を使ってCVPRの論文を良い感じに検索・推薦・要約するシステム

2023/06/14 129 users CVPR Turing gpt-3.5-turbo 論文 推薦

はじめに 5月からTuringに中途入社した棚橋です。前職はリクルートで広告配信システムの開発や量子アニーリングに関する研究開発に関わっていました。現在、Turingのリサーチチームで完全自動運転システムの研究開発に取り組んでいます。 3行でまとめ 今月開催されるCVPR2023では約2400本もの論文が発表されるため、見る... 続きを読む

トップカンファレンスにおけるデータセットシフトと機械学習 - Ridge Institute's Blog

2021/03/10 15 users 論文 トップカンファレンス 資料 論文読み会 本記事

こんにちは，株式会社Ridge-iのリサーチチームの@machinery81です． 今回はNeurIPS2020で発表されたデータセットシフトを扱う機械学習に関連する論文を紹介します． 本記事は，Ridge-i主催の論文読み会で発表した以下の資料に基づいています． speakerdeck.com TL;DR 機械学習におけるデータセットシフト Covariate Shif... 続きを読む

いま話題の「心理的安全性」について、本気出して科学的に分かりやすく説明してみた - R&D: りょうえんダイアリー

2018/11/01 659 users Project Aristotle 成果 Google 話題

「成果を上げるチーム・効果的なチームは、何が決めるのか？」 2012年から、Googleのリサーチチームが「Project Aristotle」の中で明らかにしました。 そこでは「心理的安全性」が最も重要だった、と結論付けられています。 けれど、わかったようでよくわからない「心理的安全性」とは、ほんとうには、いったい何なので... 続きを読む

CES 13: Microsoftがゲーム画面を拡張するKinect新技術“IllumiRoom”を公開 - Game*Spark

2013/01/10 17 users Illumiroom Kinect Game*Spark

Microsoftのリサーチチームより、Kinectを利用した新たな視覚効果技術コンセプト“IllumiRoom”の映像が公開されました。 この技術は、Kinect for Windowsカメラとプロジェクターを利用し、ディスプレイに映されるコンテンツをテレビの画面外にも投影して臨場感やゲームプレイ体験を増幅させるというもの。 公式サイトの概要によれば、“IllumiRoom”ではゲーム中の視野角... 続きを読む