Google Colab で Llama 3 のファインチューニングを試す ｜npaka

2024/04/22 8 users ファインチューニング Meta npaka とおり 動作

「Google Colab」での「Llama 3」のファインチューニングを試したので、まとめました。 【注意】Google Colab Pro/Pro+のA100で動作確認しています。 1. Llama 3「Llama 3」は、Metaが開発したオープンモデルです。 2. 学習Colabでの学習手順は、次のとおりです。 (1) Colabのノートブックを開き、メニュー「編集 → ノー... 続きを読む

色々な生成AIモデルをColabで動かして今年を振り返る - ABEJA Tech Blog

2023/12/21 13 users 生成AIモデル ABEJA Tech Blog

こんにちは、ラボで研究開発をしたりプロトタイプを作っている藤本(X(Twitter))です。ここ近年、生成AIの勢いが凄いです。最近は一夜明けたら世界が変わっているみたいなことがしょっちゅう起きています。そんな状況なので、なかなか世の中についていくのが難しいのではないかと思います。そこで今回は、これまでに色々... 続きを読む

OpenAIのファインチューニングAPIによる GPT-4 から GPT-3.5 への蒸留を試す｜npaka

2023/08/26 53 users OpenAI LlamaIndex npaka 蒸留 ベース

OpenAIのファインチューニングAPIによる GPT-4 から GPT-3.5 への蒸留を試したのでまとめました。 1. GPT-4 から GPT-3.5 への蒸留「LlamaIndex」で、OpenAIのファインチューニングAPIによる GPT-4 から GPT-3.5 への蒸留のColabが提供されてたので、それをベースに独自データで試してみました。 具体的には、「GPT-4」... 続きを読む

Google Colab で Llama 2 + LangChain の RetrievalQA を試す｜npaka

2023/07/31 6 users LangChain npaka 実行Colab ハード とおり

「Google Colab」で「Llama 2 + LangChain」の RetrievalQA を試したのでまとめました。 1. 使用モデル今回は、「Llama-2-7b-chat-hf」(4bit量子化)と埋め込みモデル「multilingual-e5-large」を使います。 3. Colabでの実行Colabでの実行手順は、次のとおりです。 (1) メニュー「編集→ノートブックの設定」で、「ハード... 続きを読む

Google Colab で GPT4ALL を試す｜npaka｜note

2023/04/05 5 users gpt4all npaka｜note 実行Colab 対話

「Google Colab」で「GPT4ALL」を試したのでまとめました。 1. GPT4ALL「GPT4ALL」は、LLaMAベースで、膨大な対話を含むクリーンなアシスタントデータで学習したチャットAIです。 2. Colabでの実行Colabでの実行手順は、次のとおりです。 (1) 新規のColabノートブックを開く。 (2) Googleドライブのマウント。 Colabイン... 続きを読む

避難所 on Twitter: "@himasoraakane ◽️社会福祉法第122条 共同募金の配分を受けた者は、その配分を受けた後一年間は、その事業の経営に必要な資金を得る為に寄付金を募集してはならない。 Colab

2023/01/11 68 users himasoraakane Colabo代表 配分 資金 経営

@himasoraakane ◽️社会福祉法第122条 共同募金の配分を受けた者は、その配分を受けた後一年間は、その事業の経営に必要な資金を得る為に寄付金を募集してはならない。 Colabo代表の仁藤夢乃さんまずいですよ。 https://t.co/PSwE48hwgN 続きを読む

暇空茜/Kiyoteru Mizuhara on Twitter: "日曜なんで新ネタいきましょうか 共産党と強いつながりがあるcolabo代表の仁藤夢乃さんが今年から追加した研修費用の申請書です 実施主体空欄のところはcolab

2022/11/27 93 users col Colabo 抱樸 Colabo代表 共産党

日曜なんで新ネタいきましょうか 共産党と強いつながりがあるcolabo代表の仁藤夢乃さんが今年から追加した研修費用の申請書です 実施主体空欄のところはcolabo、黒海苔のところは抱樸（シールズパパの団体）です 税金がcol… https://t.co/ikqpu1oQBI 続きを読む

Colabで動かすStableDiffusion実装｜深津 貴之 (fladdict)｜note

2022/09/05 382 users fladdict 貴之 深津 Note

自分がつかってる、Google Colab用StableDiffusionか環境を公開しました。 海外のWEB UIのが重いのと、やりたいことが微妙に違うので自分なりに作った。公式のDiffuserを使ってないので軽いです。無課金のcolabでも動くのではないかと思います。 使い方GitHubページの「Open in Colab」ボタンをおして、colabで開く。 こ... 続きを読む

Google Colab で はじめる Stable Diffusion v1.4｜npaka｜note

2022/08/22 379 users Stable Diffusion Note GPU とおり

4. Colabでの実行Colabでの実行手順は、次のとおりです。 (1) メニュー「編集→ノートブックの設定」で、「ハードウェアアクセラレータ」に「GPU」を選択。 (2) 「Stable Diffusion」のインストール。 Stable Diffusion v1.4を使うにも、今のところ0.2.4で良いみたい。 (後ほど1.4を設定) # パッケージのインストール !pi... 続きを読む

無料でPython／機械学習できるAmazon SageMaker Studio Labとは？　Colabと比較

2021/12/20 5 users 同種 GPU Python メモリ スペック

無料でPython／機械学習できるAmazon SageMaker Studio Labとは？　Colabと比較：Amazon SageMaker Studio Lab入門 メールアドレスだけで無料で使えるStudio Labは、同種のColabとどう違うのか。Studio Labプロジェクトランタイムのスペック（CPU／GPUや、実行時間、メモリ、ディスクサイズなど）や機能（ランタイムの保... 続きを読む

Colabでpysparkを利用する方法 | GMOアドパートナーズグループ TECH BLOG byGMO

2021/06/07 5 users byGMO PySpark GMOアドマーケティング ツール

こんにちは、GMOアドマーケティングのS.Rです。 ColabはGoogleより提供されている人気の無料データ分析クラウドサービスです。Colabを使ってtensorflow,Kerasなどよく使われている機械学習のツールを利用できます。機械学習エンジニアにとってとても便利なツールです。 今回は、Colabで大規模データを処理する事ができる... 続きを読む

ゼロからはじめるPython(76) ColabのGPU高性能マシンが月1072円で使い放題になっていた件 | TECH+

2021/05/04 31 users Colaboratory GPU Python 待望 制限

Googleアカウントさえあれば無料でPythonの機械学習プラットフォームが使えるColaboratory(通称Colab)というサービスがある。既に本連載でも何度か紹介したことがあるが、3月末に待望の有料プランが日本でも始まった。有料プランでも制限はあるもののGPUを備えた超高性能マシンが月1072円で使い放題になったのは大きい。... 続きを読む

FitbitのアクティビティデータをColabで可視化しましょう | GMOアドパートナーズグループ TECH BLOG byGMO

2020/11/19 11 users byGMO Fitbit アクティビティデータ エンジニア

こんにちは、GMOアドマーケティングのS.Rです。 Fitbitは人気の活動量計の一つです。 昨年、FitbitのCharge2を購入し、日々のアクティビティデータ(運動、食事、体重、睡眠など)を記録していました。データ量が結構貯まっていたので、機械学習のエンジニアとして何かに利用してみようと思います。 Fitbitのデータと無料... 続きを読む

ゼロからのPython入門講座 - python.jp

2020/09/23 368 users python.jp Python入門講座 Python 基礎

このPython入門講座では、プログラミング経験の未経験者・初心者を対象に、ブラウザからPythonを実行できるサービスGoogle Colaboratory(Colab)を使って、Pythonの基礎をチュートリアル形式で解説します。 Colab は、Google社が提供する、Webブラウザからプログラミング言語Pythonを実行できるサービスです。Colabは無料... 続きを読む

Interface誌2020年７月号に当ブログの記事と類似性の高い記事が掲載された件について - Moiz's journal

2020/08/25 10 users Moiz's journal 類似性 RAW現像 経緯 同人誌

Interface誌2020年７月号に当ブログの記事と類似性の高い記事が掲載された件について はじめに 当ブログ及びそれをもとにした同人誌「PythonとColabでできる　ゼロから作るRAW現像」の内容と非常に類似性の高い記事が、私の知らない間に商用雑誌に掲載されるという事がありましたので、その経緯についてまとめます。 類... 続きを読む

自然言語処理でBERTまでの流れを簡単に紹介 - moriyamaのエンジニアリング備忘録

2020/01/24 21 users Bert デファクトスタンダード MNTSQ vimmode

はじめまして@vimmodeです。普段はMNTSQというリーガルテックの会社で自然言語処理をしています。今回はBERTとBERTまでの流れを簡単に紹介します。 自然言語処理で今やデファクトスタンダードとなりつつであるBERT。登場当時はモデルの複雑さに伴う計算環境や計算リソースの確保が難しく気軽に動かせなかったが、Colabや... 続きを読む

対決！RTX 2080Ti SLI vs Google Colab TPU ～Keras編～ - Qiita

2019/05/14 20 users Qiita CUDA TPU GPU CPU

RTX 2080Tiを2枚買ったので、どれぐらいの性能が出るかColabのTPUと対決させてみました。さすがにRTX 2080Tiを2枚ならTPU相手に勝てると思っていましたが、意外な結果になりました。 スペック GPU側 GPU : RTX 2080Ti 11GB Manli製×2 SLI構成 CPU : Core i9-9900K メモリ : DDR4-2666 64GB CUDA : 10.0 cuDNN : 7.5.1 Te... 続きを読む