Googleが開発した画像分類タスクが可能な機械学習モデル「Vision Transformers」の仕組みとは？

2024/04/20 7 users 機械学習モデル Google Transformer 時系列

Googleの機械学習モデル「Transformer」は、データを時系列に処理しなくても、自然言語などのデータを翻訳やテキスト要約することが可能で、ChatGPTなどの自然な会話が可能なチャットAIのベースとなっています。また、Transformerの手法を画像分野に応用したモデルが「Vision Transformer」です。ソフトウェアエンジニア... 続きを読む

RAGを複雑な質問に強くする手法「CoA」について

2024/04/16 107 users coA Rag Reasoning RAGシステム 生成AI

本記事では、「Chain-of-Abstraction (CoA) Reasoning」についてざっくり理解します。軽めの記事です。 株式会社ナレッジセンスでは普段の業務で、生成AIやRAGシステムを活用したサービスを開発しています。 この記事は何 この記事は、最近聞くようになった「Chain-of-Abstraction (CoA) Reasoning」の論文[1]について、... 続きを読む

GoogleがAIに無限の長さのテキストを処理できる能力を与える技術を発表

2024/04/15 17 users テキスト 能力 Google 技術 発表

Googleの研究者が、大規模言語モデル(LLM)に無限の長さのテキストを処理させる手法だという「Infini-attention」に関する論文を発表しました。 [2404.07143] Leave No Context Behind: Efficient Infinite Context Transformers with Infini-attention https://arxiv.org/abs/2404.07143 Google’s new technique gives L... 続きを読む

PyTorchやPythonなしの純粋なC言語を使用した大規模言語モデルトレーニングツール「llm.c」がリリースされる

2024/04/11 11 users PyTorch LLM Python C言語 GPT-2

AIの本体と言える大規模言語モデル(LLM)のトレーニングはほとんどの場合PyTorchやPythonを使用して行われていますが、そうしたトレーニングを純粋なC言語のみで実装したツール「llm.c」が登場しました。まだ最適化が行われておらず従来の手法に速度面では敗北していますが、GPT-2のトレーニングを行う実装を約1000行のク... 続きを読む

オープンソースのメーラー「Thunderbird」の開発チームが「バグを減らす開発手法」を解説

2024/04/10 117 users Thunderbird メーラー パク ソフトウェア 開発手法

メールソフト「Thunderbird」では、ソフトウェアの品質向上のために開発チーム内で日常的に自動テストが実行されています。その理由や手法についてThunderbirdの開発チームが解説しています。 Automated Testing: How We Catch Thunderbird Bugs Before You Do https://blog.thunderbird.net/2024/04/automated-testing-... 続きを読む

劇場アニメーション作品『KILLTUBE』発表　ARuFaら異色クリエイター陣が制作に参加

2024/04/08 83 users chocolate 長編アニメーション パイロット映像 制作

映画制作やブランド／IPのプロデュースを行う企業・ CHOCOLATEが、オリジナル劇場アニメーション作品『KILLTUBE（キルチューブ）』の制作を発表。プロジェクトのパイロット映像を公開した。 同社が長編アニメーションを手掛けるのはこれが初めて。プロジェクト内では、制作、届け方、稼ぎ方の新たな手法を発明するべく「... 続きを読む

Access Accepted第789回：手法が変わりつつあるSteamでのゲームの売り方。アルゴリズムをよく理解してゲームをアピールするべき

2024/04/07 6 users Steam アルゴリズム 奥谷海人 ライター 売り方

Access Accepted第789回：手法が変わりつつあるSteamでのゲームの売り方。アルゴリズムをよく理解してゲームをアピールするべき ライター：奥谷海人 Steamでは，いいゲームであることに間違いはないのだが，販売ページの情報量が少なく，潜在的な消費者に向けて適切なメッセージを届けられていない，そんなタイトルが散... 続きを読む

日本の会社はクビにならないと言うけれど、追い出し部署異動からの分社化で減給という真綿で首を絞めるような手法はメジャー→席がなくなって１日食堂にいるとか

2024/04/05 6 users 真綿 減給 クビ メジャー 分社化

うめめ @beConjuror JTCはクビにならないと言うけれど、追い出し部署異動からの分社化で減給という真綿で首を絞めるような手法はメジャーなんだよね。 2024-04-04 11:39:14 続きを読む

数字300桁を適当に言う→数列から96%以上で誰が言ったか特定　数列には個人の「クセ」が現れる

2024/04/04 232 users 出現頻度 予測 定量化 実験 クセ

115人の参加者を対象に、1～9までの数字を使って300桁のランダムな数列を2回生成してもらう実験を行った。参加者には、数字の出現頻度ができるだけ均等になるよう意識しながら、なるべく予測不能な数列を生成するよう求めた。 そして、2つの数列の類似度を定量化する独自の手法を用いて分析したところ、わずか300桁の数... 続きを読む

プロンプトエンジニアリングとは？　16種類の手法を記述例とともに解説

2024/03/28 104 users プロンプトエンジニアリング 記述例 Direct 解説

1.プロンプトエンジニアリングとは 1-1.プロンプトとは 1-2.プロンプトの構成要素 2.プロンプトエンジニアリングの代表的な手法 2-1.Zero-shot prompting 2-2.Few-shot prompting 2-3.CoT（Chain-of-Thought） Prompting 2-4.Zero-shot CoT 2-5.Self-Consistency 2-6.Generate Knowledge Prompting 2-7.ReAct 2-8.Direct... 続きを読む

暗号化消去のルール整備進む

2024/03/27 9 users ルール整備 返却 リーズ ガイドライン 文部科学省

文部科学省は「教育情報セキュリティポリシーに関するガイドライン」を改訂し、新たに「暗号化消去」という用語を追加した。記録媒体を含む情報機器を廃棄する場合やリースの返却をする際にデータを復元できなくする手法だ。 時間がかからず再利用が可能に 従来は記録装置の物理的な破壊やデータ消去ソフトウエアによる... 続きを読む

AIによる画像生成を30倍高速化する手法をマサチューセッツ工科大学が開発

2024/03/27 26 users マサチューセッツ工科大学 画像生成 開発

DALL-E 3やStable Diffusionといった人気の画像生成AIの拡散モデルを簡素化し、生成される画像の品質を維持しつつ生成スピードを最大で30倍加速させる技術を、アメリカ・マサチューセッツ工科大学(MIT)の研究チームが公開しました。 [2311.18828] One-step Diffusion with Distribution Matching Distillation https://a... 続きを読む

「耳ぴく」で操作できるメガネ機器　“ダブルぴくぴく”や“3秒ロングぴく”などで入力　神戸高専が開発

2024/03/26 21 users ダブル ハンズフリー 開発 入力 原理

手などを使わずに耳を動かす能力「耳ぴく」ができる人が一定数の割合で存在する。この研究では、この動作を眼鏡型ウェアラブルデバイスの入力として用いるハンズフリーな手法を提案する。 眼鏡を装着した状態で耳ぴくを行うと、眼鏡が後ろに引っ張られることで、眼鏡のレンズ側が顔に近づく。この原理を利用し、眼鏡の上... 続きを読む

社会制度のバグ？　本人確認の穴を突いたマイナンバー過信の新手口とは

2024/03/25 107 users パク 新手口 社会制度 本人確認 小寺信良

社会制度のバグ？　本人確認の穴を突いたマイナンバー過信の新手口とは：小寺信良のIT大作戦（1/3 ページ） いわゆる振り込め詐欺の手口は、いつの時代にも手を替え品を替え新しい手法が開発され続けてきているが、今年3月にはこれまで聞いたことがない手口の詐欺事件が発覚した。読売新聞オンラインが報じたところによ... 続きを読む

言語の広がりや進化などを物理学者が力学的に分析する「言語物理学」とは？

2024/03/23 24 users 物理学者 言語 進化 IoP 応用

物理学は基本的には自然科学の分野ですが、物理学の手法とツールはさまざまに応用可能で、社会物理学や経済物理学などの分野が発展しています。同じように物理学の手法を言語の分析や分類などに応用した言語物理学について、世界最大の物理学会の1つであるInstitute of Physics(IOP)の会員誌であるPhysics Worldが、日本... 続きを読む

先端半導体、ＡＳＭＬの技術なくても製造へ－ファーウェイが特許申請

2024/03/22 55 users 華為技術 輸出規制 半導体製造能力 米国 共同

中国の通信機器大手、華為技術（ファーウェイ）は国内の半導体協業相手と共同で、先端半導体の製造方法を特許申請した。比較的低い技術で効率的に先端半導体を製造できる手法だという。米国による輸出規制にもかかわらず、中国が半導体製造能力を向上させていく可能性が広がる。 中国国家知識産権局に提出された申請書に... 続きを読む

既存のAIモデルを組み合わせて超高性能モデルを作る手法を日本のAI企業「Sakana AI」が開発、進化的アルゴリズムで膨大な組み合わせを試行し人間には発想困難な高性能LLMや画像生成モデル

2024/03/22 7 users アルゴリズム 発想 既存 Sakana AI Sakana

東京に拠点を置くAI企業「Sakana AI」が、複数の生成AIモデルを進化的アルゴリズムを用いて組み合わせて新たなモデルを作り出す手法を開発しました。Sakana AIはすでに大規模言語モデルや画像生成モデルの作成に成功しており、各モデルは既存のモデルよりも高い性能を備えていることが確かめられています。 進化的アルゴ... 続きを読む

ナレッジグラフを用いたRAGの改善 - Ahogrammer

2024/03/21 12 users Rag Ahogrammer LLM ナレッジグラフ 改善

RAG（Retrieval Augmented Generation）は大規模言語モデル（LLM）の性能を改善するための手法の1つであり、質問に対する回答を生成する際に、外部知識源から情報を取り込みます。 これにより、LLM 自体で学習できる情報量に制限されることなく、より正確で詳細な回答を生成することができます。 よく使われているRAGで... 続きを読む

生成AI開発に革新か　“自律進化”で目的のAIを自動生成　超低コスト＆短期間で高性能モデルも開発済　トップ研究者集団「Sakana AI」

2024/03/21 189 users 革新 生成AI開発 Sakana AI 手動 生成AI

生成AIのトップ研究者らが東京で創業したAIベンチャー「Sakana AI」が、生成AI開発の新たな手法を開発したと3月21日に発表した。従来は人間が手動で設計し、多くの計算資源を使っていたが、同社の手法では設計を機械が自動で行い、“ほぼ無視できるレベル”の計算資源で開発が可能になるという。この手法で開発した日本語... 続きを読む

大阪万博の見直し意見書案に維新の川崎市議が賛成　党方針に造反、離党の意向：東京新聞 TOKYO Web

2024/03/18 23 users 賛否 誘致 議場内 関西万博 モニター

大阪万博の見直し意見書案に対する各議員の賛否を示す議場内のモニター。三浦議員以外の賛成者はいずれも無所属＝川崎市役所で 日本維新の会が誘致を進めた2025年大阪・関西万博の開催について、時期や手法の見直しを求める意見書案が18日の川崎市議会本会議に提出され、維新会派の三浦恵美議員が賛成した。三浦氏は「現... 続きを読む

たった２つのステップを意識するだけで書けない単体テストがほぼなくなる - Qiita

2024/03/18 367 users Qiita レガシーコード リファクタリング 単体テスト 排除

はじめに この記事は レガシーコード改善ガイド: 保守開発のためのリファクタリング を参考に手を動かしてみて、ある程度自分の中で体系的にまとまった知識のアウトプットです。 この記事で扱う内容 この記事で扱うのは主にレガシーコードで単体テストを書く際のハードルになりがちな 依存関係の排除 に関する手法を紹介... 続きを読む

Utility-first CSS(Tailwind CSS)が合理的であることの説明と、CSSによるUI開発小史

2024/03/14 148 users CSS Tailwind CSS 説明 変遷 目次

目次 CSS小史 SUIT CSS - 命名規約ベースのCSS方法論 styled-components - CSS in JS Tailwind CSS - Utility-first CSS なぜインラインスタイルではダメなのか まとめ タイムライン 参考リンク CSS小史 CSSでアプリのUIを実装するための手法は、これまでいくかの変遷を辿ってきた。 はるか昔、CSSが生まれて間もないこ... 続きを読む

Lensを始めとするOpticsがプログラミングをどう変えるか / 複雑なデータのモデリングをサボるには - Lambdaカクテル

2024/03/09 17 users LENS Lambdaカクテル 亜種 読み書き モデリング

仕事でLensを使う機会があった。Lensは複雑で入り組んだデータ構造の読み書きに非常に効果的な手法であるにもかかわらず、関数型プログラマ以外にはあまり知られていないように思える。 そこでこの記事では、Lensとは何なのか、なにが良いのか、具体的にどのようなケースでLensが役立ったか、そしてLensの亜種について紹... 続きを読む

乳清でマザボから金を回収する手法。効率がよく環境にもやさしい

2024/03/06 29 users マザボ 効率 環境

続きを読む

記録媒体の廃棄はドリルよりも「暗号化消去」、ルール整備で認知高まるか

2024/03/05 16 users 返却 リーズ トリル 媒体 ガイドライン

文部科学省は「教育情報セキュリティポリシーに関するガイドライン」を改訂し、新たに「暗号化消去」という用語を追加した。記録媒体を含む情報機器を廃棄する場合やリースの返却をする際にデータを復元できなくする手法だ。 時間がかからず媒体の再利用が可能 従来は記録装置の物理的な破壊やデータ消去ソフトウエアに... 続きを読む