僅か2.3GBで日本語可能な超高性能ローカルLLMのPhi-3 MINIをllama.cppとCPUで動かしてみた。スマホでも可。従来のコンパクトLLMと比較して超越した性能で未来を感じさせるMicroSoft寄付ありがとう

2024/04/25 8 users llama.cpp Microsoft CPU 従来 性能

Kapper@Linuxガジェヲタ＆異世界小説家＆生成AI＆電子工作大好き @kapper1224 昨日MicroSoftからリリースしたローカルLLMモデルのPhi-3 mini 4k Q4をllama.cppのサーバ版を動かしてみた。こいつ2.32GBしかないくせに日本語しゃべれるぞ。今までとは桁違いの性能なんですけど・・・ ./build/bin/server -m ../Phi-3-mini-... 続きを読む

【新機能】Vercel Postgres + Next.js + PrismaでフルスタックWebアプリケーションを作ってみた

2023/05/02 51 users Vercel client Prisma ＧＷ 初日

はじめに GWに入り、5日連続のVercelによる新機能の発表が始まりました。早速初日(2023 5/1)からすさまじい機能の発表がありました。 初日に発表されたのは、以下の三つのStorageサービスです。 Vercel Postgres Vercel KV Vercel Blob 今回はこの中のVercel Postgresを実際に使いながら、ClientからServerまで網羅した... 続きを読む

Choosing the right solution for AWS Lambda external parameters | Amazon Web Services

2022/03/23 14 users Solutions Architect

AWS Compute Blog Choosing the right solution for AWS Lambda external parameters This post is written by Thomas Moore, Solutions Architect, Serverless. When using AWS Lambda to build serverless applications, customers often need to retrieve parameters from an external source at runtime. This allow... 続きを読む

NginxのRatelimit発動時に、安定したアクセスを提供するngx-smart-ratelimitを開発しました | ten-snapon.com

2021/09/08 22 users nginx Rate ten-snapon example

Nginxには RateLimit moduleが標準で含まれており、下記のような定義を行うことで、大量のアクセスが来た場合に、リクエストを絞ることが出来ます。 limit_req_zone $server_name zone=example:10m rate=10r/s; server { location / { limit_req zone=example; proxy_pass http://example_upstream; } } このように定義... 続きを読む

Goで開発した配信サーバーのメモリ使用量問題に向き合う - Mirrativ tech blog

2021/01/21 58 users Mirrativ tech blog 配信サーバー 前段

こんにちは。ストリーミングチームの松本です。 Mirrativのストリーミングチームは、低遅延配信や、通知ぼかしというような機能を追加するため、配信のorigin serverの前段にtranscoder serverというものを導入してきました。 tech.mirrativ.stream tech.mirrativ.stream transcoder serverはGoによる内製のミドルウェア... 続きを読む

GTMにサーバーサイドで動作するサーバー用コンテナが登場

2020/08/22 8 users GTM オープンベータ サーバーサイド GCP もろもろ

2020年8月13日、Googleタグマネージャーのコンテナ種別へ「Server」が新たに加わりました。 これはユーザーのブラウザ上ではなく、ユーザーとは切り離された仮想サーバー上でもろもろの処理を行うためのコンテナで、リリース時点ではまだオープンベータとなっています。なおサーバー用コンテナはGCP（Google Cloud Platf... 続きを読む

「Client と Server があるスマフォゲームを 開発するときに人類が考えておくべき、ほとんど全てのこと」をまとめる構想 | Alto-tascal

2020/01/26 382 users Alto-tascal client ドキュメント 構想 人類

「Client と Server があるスマフォゲームを 開発するときに人類が考えておくべき、ほとんど全てのこと」をまとめる構想 これは何 「Client と Server があるスマフォゲームを開発するときに人類が考えておくべき、ほとんど全てのこと」 をドキュメントとしてまとめようと思ったときに、何を書けばいいかをリストアップ... 続きを読む

Gem in a BoxでプライベートなRubyGemsをDockerで簡単に構築する - YOMON8.NET

2019/10/24 22 users RubyGems Docker gem config.ru

Gem in a Boxを使って、Dockerでローカル環境にRubyGemsを構築して、Gemをアップロードするところまで書きます。 github.com Gem in a Boxは公式でも以下の RUNNING GEM IN A BOX の項目で紹介されてます。 Run your own gem server - RubyGems Guides 作業前提 Dockerfile作成 設定ファイル準備(config.ru) 設定ファイ... 続きを読む

When TCP sockets refuse to die — Idea of the day

2019/09/23 104 users Weird AROUND

This article was first published on Cloudflare blog: When TCP sockets refuse to die Accompanying scripts While working on our Spectrum server, we noticed something weird: the TCP sockets which we thought should have been closed were lingering around. We realized we don't really understand when TC... 続きを読む

http.ListenAndServe() をインターネットに公開してはいけない - Qiita

2019/04/16 57 users Qiita error インターネット プロダクション ころ

http.ListenAndServe() を使ったサーバーをプロダクションに投入していたのですが、海外からのアクセスが多くなったころにリソースリークが発覚しました。 ListenAndServeのドキュメント ListenAndServeのソースを見るとこうなっています。 func ListenAndServe(addr string, handler Handler) error { server := &Serve... 続きを読む

golangで電卓Webアプリケーションを作ってみた - Qiita

2019/03/12 29 users Qiita golang fmt Math import

はじめに Goを用いて簡単な【電卓Webアプリケーション】を作成したので、アウトプットしたいと思います！ アプリ画面 コード package main import ( "fmt" "html" "math/big" "net/http" ) // ServerHTTPメソッド用の構造体型 type Server struct{} // httpリクエストを受け取るメソッド func (Server) ServeHTTP(w http... 続きを読む

GitHub - gotify/server: A simple server for sending and receiving messages in real-time per web socket. (Includes a sleek web-ui)

2019/03/11 19 users together GitHub code Sign Up

Dismiss Join GitHub today GitHub is home to over 31 million developers working together to host and review code, manage projects, and build software together. Sign up A simple server for sending and receiving messages in real-time per web socket. (Includes a sleek web-ui) https://gotify.net 続きを読む

クラウドよりオンプレミスとIBMのPOWER、AIXに賭けたニトリの選択 - ZDNet Japan

2018/10/29 21 users RISCプロセッサ AIX オールフラッシュストレージ 米国

日本IBMは10月26日、ニトリホールディングス（ニトリ）が基幹データベースシステムに「IBM Power System E980 Server」およびオールフラッシュストレージの「IBM DS8886F」を採用したことを発表した。IBM Power System E980は、同社が独自開発するRISCプロセッサ「IBM POWER9」を搭載するスケールアップ型サーバで、米国... 続きを読む

山市良のえぬなんとかわーるど: 速報：Windows 10 October 2018 Update に重大問題？ RS5 ぜんぶ提供停止（評価版も Server も）

2018/10/06 18 users update 山市良 インストールメディア 速報 RS5

速報：Windows 10 October 2018 Update に重大問題？ RS5 ぜんぶ提供停止（評価版も Server も） Windows 10 ver 1809 は、なにやら問題があったようで、提供停止されました。インストールメディアを作成してまだインストールしてないって人は、ストップしましょう。 Known issues updating to Windows 10, version 1809... 続きを読む

RedashをFargateで立ち上げる - tjinjin's blog

2017/12/18 20 users redash Fargate image qiita.com

2017 - 12 - 19 RedashをFargateで立ち上げる redash AWS About こちらはRedash Advent Calender 2017 19日目の記事です。 qiita.com ノリでFargateを使ってRedashを構築してみました。 もともとのdocker-compose.yml version : '3' services : server : image... 続きを読む

4年半勤めた SIer やめました | u0v0u

2017/09/04 33 users SIer HDD サーバ インフラ さん

タイトルの通り，4年ちょい働いた SIer 辞めました． よかったこと，いやだったこと． せっかく4年半働いたので，まとめようと思います． おしごとについて，ざっくり ざっくりこんな感じ．浅く広く（広くもない）SIっぽいことをしてきた． 1〜3年め ：インフラやさん（Storage , Network , Server, Helpdesk） 何百のHDDの開梱作業 サーバを担いでデータセンターへ ... 続きを読む

MastodonはP2Pか? そしてMastodon以外の最近注目すべきP2P技術 - shi3zの長文日記

2017/04/20 64 users Mastodon client サーバント shi3z エッジ

僕はMastodonをP2P(+Edge)だと思っている。こんな用語は聴いたことないが、P2P2Eと略しても良い。 んで、P2P2Eとはどういうことかというと、少数のサーバント(server + client)が相互に対等な関係を保ちながら、各サーヴァントに対してエッジ(端末)がアクセスする構造。 で、勘の良い人はすぐ気づいたと思うけど、これってインターネットの仕組みそのものなんだよね。 PCから... 続きを読む

フルスタックエンジニアよりデュアルスタックエンジニア | F's Garage＠fshin2000

2016/06/05 198 users network 妄想 用語 フルスタックエンジニア 英語

（言葉遊びみたいな記事を書きますね。その上、用語の使い方が間違ってたらごめんなさい。） 一時期、フルスタックエンジニアって言葉流行りましたよね。ふと、要件どこまでだっけ？と思って調べようと思ったんですが、日本語で調べると、妄想が暴走してロクな話が出てこなそうなので、英語の方で調べてみるとわかりやすい。 What is a Full Stack developer? Server, Network,... 続きを読む

Zabbix server Lack of free swap space on Zabbix serverが止まらなかったので見てたら・・ - ぽぽぽぽーんのネットワークとOSS

2015/11/02 9 users OSS swap ネットワーク メモリ etc

2015-06-13 Zabbix server Lack of free swap space on Zabbix serverが止まらなかったので見てたら・・ Zabbix freeコマンドで見るとメモリは余っているのにswapを使っている。swapの領域を増やせばエラーはなくなるけど対応としてはそもそもswapを使ってほしくないと思ったので以下を調整。 $ cat /etc/sysctl.c... 続きを読む

『Programming Phoenix』を読んでみた（まだドラフト版） | 徒然なるままに

2015/10/10 30 users 徒然なるまま ドラフト版 Development Other

パーソナルリンク kazucocoa's dialy 徒然なるままに 認証済みサービス プロフィールを表示 → RSS - 投稿RSS - コメント カテゴリー サーバ設定 (1) デバッグ (2) development (30) 通信 (1) 自動化 (43) other (48) Server (3) software test (112) Uncategorized (20) Usabil... 続きを読む

HTTP/2とmrubyの可能性についてお話してきた - 人間とウェブの未来

2015/09/28 30 users mruby http Hacker Tackle 博多 ウェブ

2015-09-28 HTTP/2とmrubyの可能性についてお話してきた Webサーバ お知らせ 発表 福岡の博多で開催されたHacker Tackleという技術イベントで、「HTTP/1.xとHTTP/2が混在する時代のウェブサイト設計とmruby in HTTP serverの可能性」というタイトルでお話をしてきました。 hackertackle.github.io HTTP/2に関しては既... 続きを読む

mruby in HTTP server - connect HTTP/1 with HTTP/2 servers - // Speaker Deck

2015/09/26 81 users servers Speaker Deck

All slide content and descriptions are owned by their creators. 続きを読む

OSSとして公開された、巨大なFacebookのiOSアプリでUIAutomationを使うために使われているツール群 | 徒然なるままに

2015/09/12 87 users Facebook Development Other OSS

パーソナルリンク kazucocoa's dialy 徒然なるままに 認証済みサービス プロフィールを表示 → RSS - 投稿RSS - コメント カテゴリー サーバ設定 (1) デバッグ (2) development (25) 通信 (1) 自動化 (43) other (47) Server (3) software test (105) Uncategorized (20) Usabil... 続きを読む

Server::Starter meets Java

2015/06/02 16 users Listen Starter READY

Transcript 1. Server::Starter meets Java tokuhirom 2. Sever::Starter 3. a super daemon to hot- deploy server programs 4. Server::Starter (listen 80) Server socket Server socket Ready! Server socket Re... 続きを読む

Server::Starter から簡単に Java プロセスを起動できるようになった - blog.64p.org

2015/05/29 74 users Starter Jetty JVM PORT 64p.org

JVM には inetd から起動するときのために､file descriptor 0 をソケットとして開く機能がついている｡Jetty 等もこの機能に対応しているので､簡単に利用できる｡ file descriptor を 0 に固定出来る機能が Server::Starter にあればよかろうということで､以下のような指定で起動できるように実装した｡ $ start_server --port... 続きを読む