大規模言語モデル(LLM)の作り方 Megatron-DeepSpeed編

2023/06/29 129 users LLM Turing GPT-4 インターン 知見

はじめに Turing 株式会社のリサーチチームでインターンをしている東京工業大学 B4 横田研究室の藤井(@okoge_kaz)です。 大規模言語モデル(Large Language Model: LLM)への注目がGPT-4のリリース以降高まっていますが、LLMを作るための知見は十分に共有されているとは言い難いと個人的に感じています。 Turingでは、Visi... 続きを読む

GPT-3.5-turboの新機能を使ってCVPRの論文を良い感じに検索・推薦・要約するシステム

2023/06/14 129 users CVPR Turing gpt-3.5-turbo 論文 推薦

はじめに 5月からTuringに中途入社した棚橋です。前職はリクルートで広告配信システムの開発や量子アニーリングに関する研究開発に関わっていました。現在、Turingのリサーチチームで完全自動運転システムの研究開発に取り組んでいます。 3行でまとめ 今月開催されるCVPR2023では約2400本もの論文が発表されるため、見る... 続きを読む

いま話題の「心理的安全性」について、本気出して科学的に分かりやすく説明してみた - R&D: りょうえんダイアリー

2018/11/01 659 users Project Aristotle 成果 Google 話題

「成果を上げるチーム・効果的なチームは、何が決めるのか？」 2012年から、Googleのリサーチチームが「Project Aristotle」の中で明らかにしました。 そこでは「心理的安全性」が最も重要だった、と結論付けられています。 けれど、わかったようでよくわからない「心理的安全性」とは、ほんとうには、いったい何なので... 続きを読む