テキストエディタをフルスクラッチで書いてみた - Qiita

2024/09/18 88 users Qiita github.com テキストエディタ 既存

テキストエディタをフルスクラッチで書いてみた 完成品はこちらになります https://github.com/sxclij/sxceditor2 それVimじゃねぇの？ これはもしかして、既存のテキストエディタを真似しただけで、本当にフルスクラッチで作ったわけじゃないんじゃないかと思い始めました。GitHub上にも数多くのVimクローンが散見され... 続きを読む

“学習データも全てオープン”なLLM、NIIが公開　GPT-3級モデルのプレビュー版

2024/09/17 10 users LLM NII プレビュー版 パラメータ数 AIモデル

国立情報学研究所（NII）は9月17日、パラメータ数約1720億の大規模言語モデル（LLM）のプレビュー版「LLM-jp-3 172B beta1」を公開した。NIIが開発するLLMは、データをフルスクラッチで学習しており、AIモデルの他に学習データもオープンになっているのが特徴。プレビュー版モデルは、学習データの約3分の1までを学習し... 続きを読む

GPT-4を超える日本語性能のLLM、PFN子会社がフルスクラッチで開発　無料トライアルを開始

2024/08/07 9 users トライアル Preferred Elements 商用版

β版では、PLaMo-100Bをベースに指示学習やモデルマージを行い、文章生成能力を高めた。無料トライアルは個人・法人を問わずに提供し、商用利用も可能。同社は今後、トライアルの検証結果から改善や追加学習などを実施し、商用版の「PLaMo 1.0 Prime」を今秋に発売する。 関連記事 PFNが生成AI新会社「Preferred Elements... 続きを読む

妻から電話「今仕事？私 記憶が無いんだけど！」と明るい声。直ぐに店長が出て「奥様の言動がおかしいので脳梗塞の可能性あります」

2024/05/22 292 users 言動 脳梗塞 奥様 店長 記憶

ジョーカルビ😺 @bellmaron0408 angooの次回作楽しみ！！ 趣味はパテによるフルスクラッチ。作ってる時が一番楽しいかな(^○^) 最近はクレパスや水彩で絵も描いてます。 BOOTH販売もしています。bellmaron0408.booth.pm ジョーカルビ😺 @bellmaron0408 ① 金曜夕方。仕事を終え家で寛いでいると妻から電話「パパさん、今仕... 続きを読む

1000億パラメータのLLM、AIスタートアップが公開　フルスクラッチで開発　「ハルシネーションを大幅抑止」

2024/05/16 9 users LLM ハルシネーション ウソ 現象 言語モデル

AIスタートアップ企業のストックマーク（東京都港区）は5月16日、1000億パラメータ規模の大規模言語モデル（LLM）を開発したと発表した。「Stockmark-LLM-100b」と名付けられたこのLMは、同社がフルスクラッチで開発したものでハルシネーション（AIがもっともらしいうそをつく現象）を大幅に抑えているのが特徴という。 ... 続きを読む

大規模言語モデルをフルスクラッチする練習 (環境構築ー事前学習まで)｜Kan Hatakeyama

2024/03/05 75 users Kan Hatakeyama 言語モデル 練習 レポジトリ内

はじめに以下のオープンなプロジェクトの一環で､大規模言語モデルをフルスクラッチで作る練習をします｡24年3月現在､協力者も募集中です｡ リポジトリ当該プロジェクトの標準コードが公開※されたので､それを走らせてみます｡ ※24/3/5時点で､まだレポジトリ内に､工事中の箇所が多々､あります｡ このリポ上では､事前学習ー事後... 続きを読む

Rust で SQLite を再実装した 2023 - kawasin73のブログ

2023/12/07 120 users SQLite rust github.com 気合い 実装

気合いで実装、どうもかわしんです。 この記事は Rust Advent Calendar 2023 の6日目 兼 情報検索・検索技術 Advent Calendar 2023 の 6 日目です。 Rust で SQLite をフルスクラッチで実装しています。 github.com なぜ SQLite を Rust で再実装しようと思ったのかについては以前の記事で紹介しています。一言で言えば... 続きを読む

C言語でWASMインタプリタを実装した話

2023/12/02 28 users wat WASMランタイム C言語 utf8 概要

概要 公式のcore testが全て(UTF8, WAT, SIMD関連のものは除く)通るWASMインタプリタをC言語でフルスクラッチで実装した。自作WASMランタイムで省略されがちなValidation Stageも実装した。この記事はWebAssembly Advent Calendar 2023の三日目の記事である。 目的 このWASMランタイムを実装するにあたり、「できるだけ... 続きを読む

SQLite のおもしろ仕様 (2) : ファイルフォーマット - kawasin73のブログ

2023/11/12 92 users ファイルフォーマット rust SQLite 過程 後方互換性

後方互換性って辛いね、どうもかわしんです。 最近 Rust で SQLite をフルスクラッチで再実装しています。 github.com 再実装するために SQLite の公式ドキュメントやソースコードを読み込んでいるわけですが、その過程で気付いたおもしろポイントを共有しようかと思います。 今回はその第二弾、ファイルフォーマット編... 続きを読む

SQLite のおもしろ仕様 (1) : データ型 - kawasin73のブログ

2023/09/09 9 users SQLite rust github.com おもしろ仕様

型は型、どうもかわしんです。SQLite では型は絶対ではなく、あくまでも尊重です。信用しすぎると裏切られます。 最近 Rust で SQLite をフルスクラッチで再実装しています。 github.com なるべく本家の SQLite と compatible にするために SQLite のドキュメントやコードを読んで挙動を理解しながら作っています。これ... 続きを読む

WASMバイナリを実行する自作OS, mavisの紹介

2023/09/03 11 users shell 自作OS Hello World 紹介 画像

mavisとは mavisは私がフルスクラッチで開発している自作OSです。 これをビルドしてmake runするとshellが立ち上がり、"hello"コマンドを実行すると"Hello World!"が表示されます。 現状できることはたったこれだけですが、面白いのはその仕組みです。実は上の画像のshellとhello worldプログラムはどちらも WASMバイナ... 続きを読む

K-MeansクラスタリングをPythonでフルスクラッチで実装する。｜es｜note

2022/12/13 5 users Python Note

K-Meansは個人的にも好きなアルゴリズムで、教師あり学習を必要とせず、混沌とした中からパターンを見つけ出してくれる可能性があります。 実際、実践で使うとそのような都合の良いデータはほとんどなく、むしろ 仮説を否定する場合に使う方が現実的かもしれません。 自分の場合、顧客のセグメント分けに使うことが多い... 続きを読む

NumPyでニューラルネットワークをフルスクラッチ実装してみよう

2022/06/21 9 users NumPy ニューラルネットワーク ディープラー 連載目次

「線形代数を使ったニューラルネットワークの基礎を押さえたい！」という方にピッタリ。ニューラルネットワークをPython＋NumPy（線形代数）でフルスクラッチ実装する。線形代数なしで実装した場合との差分から効率的に理解できる。 連載目次 本連載（応用編）の目的 本連載（基礎編）の第1回～第3回では、ディープラー... 続きを読む

PR TIMESにおけるフロントエンド開発基盤の構築 | PR TIMES 開発者ブログ

2022/04/14 11 users PR TIMES 構築 開発者ブログ React プロジェクト

こんにちは、21新卒エンジニアの柳(@apple_yagi)です。今月から新卒2年目となり、一年早かったなとしみじみしています。 昨年PR TIMESでは企業ページをフルスクラッチでReactにリプレイスするプロジェクトを行い、モダンなフロントエンド技術を導入することができました。 レガシーなフロントエンドを捨ててReact.jsでリ... 続きを読む

国内で有名なアプリ開発会社まとめ。開発会社の種類やランキング、導入実績も紹介｜モバイルマーケティング研究所｜ModuleApps 2.0

2022/03/30 19 users モバイルマーケティング研究所 導入実績 種類 ランキング 国内

アプリ開発会社の種類とランキング 今までの話は、フルスクラッチのアプリ開発会社やシステム開発会社に依頼した場合の料金ですが、時代が進むにつれノーコードで開発する会社も登場しており、開発会社もランク分けされる状況となっています。主に、ノーコード型アプリ開発サービス、ハイブリッド型アプリ開発サービス、... 続きを読む

RustでJSONパーサーをフルスクラッチで実装する - Qiita

2021/11/30 177 users Qiita パーサー rust JSON 実装

この記事はRust Advent Calendar 2021 カレンダー2の1日目の記事です。 はじめに エンジニアは一度はJSONパーサーをフルスクラッチで実装したほうが良いという天啓を受けRustでJSONパーサーを実装してみました。 パーサーはJSONのRFC 8259を読み進めて実装しました。パーサーの実装は面白く勉強になり満足しましたが折角... 続きを読む

小説の書き出し以降をAIが自動生成してくれる「AIのべりすと」を使ってみた

2021/10/28 10 users AIのべ 自動生成 小説 コーパス TPU

Googleが開発する機械学習に特化した集積回路「TPU」を用いてオープンな研究のブレイクスルーを図るTPU Research Cloudを利用し、日本語最大級の68.7億パラメータ＆約500GBのコーパスからフルスクラッチで訓練した小説生成人工知能(AI)が「AIのべりすと」です。「AIのべりすと」は小説の書き出し部分を5～6行入力するだ... 続きを読む

AIのべりすと alpha2.0

2021/10/21 14 users AIのべ コーパス ヒント 文章 ジャンル

「AIのべりすと」は日本語最大級の68.7億パラメータ＆約500GBのコーパスからフルスクラッチで訓練した小説AIです（現在、テスト中です）。 初めての方はお試しプロンプトから始めるか、最初から好きな文章を入力して始めることもできます。 （ヒント：最低でも5～6行程度の文章を入力した方が思ったようなジャンルの文章... 続きを読む

MCMCをフルスクラッチで実装するトレーニング方法 - Qiita

2021/05/07 13 users MCMC Qiita stan ベイズ統計 汎用

はじめに 東京大学・株式会社Nospareの菅澤です． 今回はベイズ統計を用いたデータ分析を実施する上で欠かせないマルコフ連鎖モンテカルロ法(いわゆるMCMC)をフルスクラッチで実装するためのトレーニング方法と，そのための参考書について紹介いたします． 最近ではstanのように，モデルと事前分布を記述するだけで汎用... 続きを読む

精度向上のために機械学習プロダクト全体をフルスクラッチで書き直した話 - Out-of-the-box

2021/02/02 8 users Ubie Out-of-the-box 入社 半年 精度向上

2020年7月から医療スタートアップのUbieで機械学習エンジニアをしています。ようやく入社から半年くらいが経ちましたので、ここ最近やっていた仕事として、機械学習プロダクトの精度向上のためにシステム全体をフルスクラッチでかつ一人で実装し直した話をしたいと思います。 機械学習は既に様々な会社でプロダクトに組... 続きを読む

フルスクラッチでSHA-256を作る

2021/01/22 27 users TypeScript アルゴリズム のち SHA-256 関数

ハッシュ値の利用者として中身のアルゴリズムを知っておきたいと思ったのでTypeScriptで1からSHA-256を作ろうと思います。SHA-256は名前そのまま、どんな長さのメッセージでも256bitsのハッシュ値を返す関数です。 完成版はこちら この実装はのちに記載する仕様の論文に沿って純粋に記述しています。セキュリティ的にも... 続きを読む

フルスクラッチから作って理解するQEMU (Rust編) - FPGA開発日記

2020/12/28 302 users QEMU LLVM rust RISC-V TCG

モチベーション なぜRustを選んだか？ 私はQEMUは「アーキテクチャエミュレーション界のLLVM」だと思っている QEMUが高速な理由：TCG Binary Translation ゲスト命令(RISC-V) → TCG → ホスト命令(x86)の処理をRustで作ろう RISC-Vの命令をフェッチしてデコードする RISC-Vの命令をTCGに変換する TCGをx86に変換する 実装... 続きを読む

Go でトランザクションをフルスクラッチで実装した - kawasin73のブログ

2019/12/07 23 users トランザクション かわしん kawasin73 途中 興味

一歩ずつ一歩ずつ前へ進んでいく、確実に。どうも、かわしんです。 到底 1 記事に収まるような内容ではなく長いので、トランザクションの作り方に興味のない方は途中の「なぜ Go なのか」まで読んでいただければ嬉しいです。 この記事は、Go2 Advent Calendar 2019 の 7 日目と セキュリティキャンプ 修了生進捗 #seccam... 続きを読む

ターミナル用 UTF-8 テキストエディタを Rust でスクラッチからつくった - はやくプログラムになりたい

2019/08/29 350 users rust テキストエディタ プログラミングツール スクラッチ

言語処理系やテキストエディタなどのプログラミングツールが好きなので，その周辺を趣味で触ってます．Vim を Wasm にポートするために Vim の実装を読んだりはしているのですが，フルスクラッチでテキストエディタをつくったことはありませんでした． 今年のお盆はめちゃ暑かったので，引きこもって夏休みの自由工作的... 続きを読む

Kyashが明かす、フルスクラッチで作る決済システムの強みと特徴 - ログミーTech

2019/05/23 21 users 書き起こしメディア 株式会社リンクアンドモチベーション

2019年3月20日、株式会社リンクアンドモチベーションのイベントスペースにて、エンジニア向けの勉強会に特化した書き起こしメディア「ログミーTech」が主催するイベント「ログミーTech Live #3」が開催されました。第3回となる今回のテーマは「金融サービスを支える技術」。高い信頼性が求められるFinTech分野でサービス... 続きを読む