タグ データ処理
人気順 5 users 50 users 100 users 500 users 1000 users「長年のサポートに感謝」県庁の電子計算機運用終了の催し|NHK 愛媛のニュース
愛媛県庁でおよそ50年にわたって税金の計算や会計業務などに使われてきた大型の演算装置、電子計算機の運用が20日で終了となり県庁で催しが行われました。 愛媛県庁の機械室に設置されている電子計算機は、縦およそ1メートル80センチ、横およそ60センチで、複雑なデータ処理を高速で行うことができ、昭和48年... 続きを読む
NVMeに新機能。ストレージがデータ処理を行う「コンピュテーショナルストレージ」、NVM Expressが発表
NVMe関連規格の標準化団体であるNVM Expressは、ストレージ内でデータ処理を行うための業界標準「コンピュテーショナルストレージ」機能を発表しました。 コンピュテーショナルストレージとは、その名前が示す通り計算機能を備えたストレージのことです。 基本的にストレージに格納されたデータは、ストレージから取り出... 続きを読む
Googleアナリティクスの過去データをMatomoにインポートして移行し解析結果を保存する手順まとめ
Googleが提供するアクセス解析サービスのGoogleアナリティクスでは、2023年7月1日に「Google アナリティクス 4(GA4)」への完全移行が実施され、前世代のGoogleアナリティクスである「ユニバーサル アナリティクス(UA)」でのデータ処理が終了しました。完全に更新が止まったUAのデータをそのうちGoogleが消したりアクセス... 続きを読む
まつもとゆきひろと考えるデータ処理の未来 RubyからStreemへ〜Ruby開発者 まつもとゆきひろ(Matz)さん【データ×まつもとゆきひろ】|株式会社primeNumber
まつもとゆきひろと考えるデータ処理の未来 RubyからStreemへ〜Ruby開発者 まつもとゆきひろ(Matz)さん【データ×まつもとゆきひろ】 ソフトウェア技術者のまつもとゆきひろ(Matz)さんが開発したRubyは、1995年のリリースから現在まで世界中のユーザーに愛され、開発に利用されてきたプログラミング言語です。一般財... 続きを読む
ユニバーサル アナリティクスのサポートは終了します - アナリティクス ヘルプ
この記事では、2023 年 7 月 1 日(アナリティクス 360 プロパティの場合は 2023 年 10 月 1 日)をもってデータ処理が停止されるユニバーサル アナリティクス プロパティについて説明します。まだ使用していない場合は、Google アナリティクス 4 プロパティの使用を開始してください。 (最終更新日: 2022 年 3 月 16 ... 続きを読む
NTTとスカパーJ、宇宙でデータ処理 電力消費削減: 日本経済新聞
日経の記事利用サービスについて 企業での記事共有や会議資料への転載・複製、注文印刷などをご希望の方は、リンク先をご覧ください。 詳しくはこちら NTTが宇宙空間でデータ処理をする仕組みの実用化に乗りだす。地上の自動車や発電所から得たデータを衛星間で処理をして、効率的な運転につながる情報にして戻す。宇宙... 続きを読む
ワクチン接種の予約受け付け停止 LINE利用のシステム | 共同通信
新型コロナウイルスのワクチン接種を巡り、東京都狛江市など複数の自治体で12日、予約の受け付けができなくなった。通信アプリのLINE(ライン)を使った予約システムなどで、データ処理に関わる米国のIT企業「セールスフォース・ドットコム」に障害が起きたのが原因とみられる。 受け付けができなくなったのは、東京都目... 続きを読む
「SSD」を駄目にする間違った使い方と、正しい使い方:特選プレミアムコンテンツガイド - TechTargetジャパン サーバ&ストレージ
ダウンロードはこちら SSDとHDDはどちらもストレージだが、仕組みは異なる。HDDと同じような管理方法や設定でSSDを使用すると、故障しやすくなったり、データ処理の効率を低下させたりする恐れがある。保管に適したデータの種類も、SSDとHDDでは異なる。 読み出しが速いというSSDのメリットを生かすには、どのような設定... 続きを読む
JuliaとPythonを併用したデータ処理のススメ - Techブログ - MNTSQ, Ltd.
Pythonでデータ処理をしている際、numpyにはまらないごちゃごちゃした前処理があり、ちょっと遅いんだよなぁ。。。となること、ないでしょうか。 ルーチンになっている解析であれば高速化を頑張る意味がありそうですが、新しい解析を試行錯誤している最中など、わざわざ高速化のためのコードをガリガリ書いていくのは辛... 続きを読む
今すでに2人の研修中の新卒を受け持ってるんだけど差が酷い。 1人は商業高..
今すでに2人の研修中の新卒を受け持ってるんだけど差が酷い。 1人は商業高校出身で入力速度もデータ処理も早いし 機能を理解しているから説明すれば気持ちいくらいすぐにできるようになる 対してもう1人 今までOffice自体をほとんど使ったことがないらしく、 「Wordを開いて」という指示さえ通じなかった。 「わーどって... 続きを読む
無料で機械学習やデータ処理の流れを簡単に可視化してくれるワークフローツール「Flyte」を触ってみた - GIGAZINE
「宿泊者がサイコパスかどうか」を予約前にチェックする仕組みやわずか11万円で自動車を「完全自動運転カー」に改造できる手作りキットが開発されるなど、機械学習を利用した技術の開発はますます活発になっています。そうした機械学習やデータ処理においては開発プロジェクトのコードやデータなどのワークフロー全体を... 続きを読む
AWS GlueでApache Sparkジョブをスケーリングし、データをパーティション分割するためのベストプラクティス | Amazon Web Services ブログ
Amazon Web Services ブログ AWS GlueでApache Sparkジョブをスケーリングし、データをパーティション分割するためのベストプラクティス AWS GlueはApache Spark ETLジョブでのデータ分析・データ処理を行うために、様々なデータソースから大量のデータセットを準備(抽出および変換)し、ロードするサーバーレスな環境を... 続きを読む
Rubyコミッターの村田賢太がApache Arrowのコミッターに就任 | 株式会社Speee
株式会社Speee開発部R&Dグループ所属のRubyコミッター、村田賢太/mrkn がApache Arrowのコミッターに就任いたしました。 https://arrow.apache.org/committers/ Apache Arrowとは、オンラインメモリのデータ表現、データ処理を効率化するプロジェクトです。 村田は弊社のデータ利活用を推進するR&D領域に対して指導的な... 続きを読む
MongoDB〜OSSのNoSQLサーバ〜 | OSSでのシステム構築・デージーネット
MongoDBとは、ビッグデータやIoTのデータ処理に利用されるオープンソースソフトウェアのNoSQLサーバです。MongoDB Enterprise Advancedという商用版もあります。AmazonやGoogleが、クラウド・サービス上でMongoDB互換のDBを提供するなど、NoSQLとしては最もスタンダードなソフトウェアです。 MongoDBとは MongoDBとは、... 続きを読む
Data Associate - Japanese(契約社員) - ジョブID:804692 | Amazon.jobs
説明Amazonではご自宅で日本語のデータ処理を行うData Associateを募集しています。このチームではAlexaの音声認識を支える様々なデータ処理に携わっています。Data Associateは音声データをテキストとして入力するTranscription、そのテキストにメタデータを付与するAnnotationなど、データを分析するチームからの様々... 続きを読む
Pandasで行うデータ処理を100倍高速にするOut-of-CoreフレームワークVaex - フリーランチ食べたい
TL;DR アウトオブコア、かつマルチコアでデータ処理を行えるVaexの紹介です。 string関係のメソッドで平均して100倍以上の高速化が確認できました。(作者のベンチマークだと最大1000倍) 文字列処理以外でも数倍~数十倍の高速化が行えそうです。 この記事では性能の比較のみ行い、解説記事は別で書こうと思います。 panda... 続きを読む
新発表 – AWS Transfer for SFTP – Amazon S3と連携したマネージドなSFTPサービス | Amazon Web Services ブログ
Amazon Web Services ブログ 新発表 – AWS Transfer for SFTP – Amazon S3と連携したマネージドなSFTPサービス SFTP(Secure File Transfer Protocol) は、長年に渡って使用されてきたデータ処理やパートナー連携の一部として、現在でも多くの組織で利用されています。このようなシステムを「レガシー」という言葉で片... 続きを読む
NumPyで使われる多次元配列のデータ構造「ndarray」とは?:CodeZine(コードジン)
Pythonで数値計算を行なうためのライブラリであるNumPyでは、多次元配列を基本的なデータ構造として操作します。この独自のデータ構造を「ndarray」といい、知っておくことでデータ処理の際に高速化や省メモリ化したコードを書けるようになります。今回は『現場で使える!NumPyデータ処理入門』(翔泳社)からndarrayの... 続きを読む
課せられたのは「4時間で100社分のデータ処理」――2年目エンジニアが挑んだ機械学習【デブサミ2018 夏】 (1/2):CodeZine(コードジン)
スマートフォンやパソコン、タブレットなど、複数のデバイスを日常的に利用するユーザーが増えている。そうしたユーザーの行動をトラッキングするため、株式会社ロックオンが提供するマーケティングプラットフォーム「アドエビス」では、デバイスやブラウザをまたぐ同一ユーザーを推定する「クロスデバイス機能」の提供... 続きを読む
すぐ辞める若者は合理的——「裁量労働悪用する」会社は採用できない | BUSINESS INSIDER JAPAN
裁量労働制の対象拡大をめぐり、政府のデータ処理が不適切だったとして実施の先送りが検討されるなど、国会が紛糾している。 裁量労働制とは、実際の労働時間に関係なく、労使で合意した時間だけ働いたとみなして、賃金を支払う仕組み。 何時間働いても賃金が一定であることから、裁量労働制が結果的に企業の人件費削減に使われるのでは、との声は根強い。 時は空前の人手不足時代。無制限に残業をさせたら、若者はすぐに辞める... 続きを読む
Ruby誕生25周年記念イベントでしゃべった & After Partyやった - たごもりすメモ
2018 - 02 - 26 Ruby誕生25周年記念イベントでしゃべった & After Partyやった Ruby 誕生から25周年を祝うイベントが開催され、そこの「 Ruby の今」というセッションでデータ処理について話さないかという依頼があり、受けたので、話してきた。 Ruby25 | Top 本当にいろんな人が参加していて、みんなでわいわいとお祝いをする、という感じ。高橋会長やまつもとさ... 続きを読む
東京新聞:裁量労働データ「時間取れず ずさんな調査に」 担当監督官が証言:政治(TOKYO Web)
裁量労働制に関する厚生労働省調査に不適切なデータ処理があった問題で、調査に当たった労働基準監督官の男性が二十四日までの共同通信の取材に「一社当たりの調査時間を約一時間半とする内規に従ったが、(私の場合)十分な時間が取れなかった。結果的に調査がずさんになってしまった」と証言した。 この調査を巡っては、これまで不自然な数値が二百件以上見つかっているが、実際に担当した監督官が調査手法の不備を証言するのは... 続きを読む
暗号通貨ブームの裏側で顕在化してきた、その基盤技術の「構造的な問題」|WIRED.jp
SHARE INSIGHT 2018.01.22 MON 08:00 暗号通貨ブームの裏側で顕在化してきた、その基盤技術の「構造的な問題」 ビットコインの価格は1月に入って暴落したとはいえ、まだ高い水準にある。そんななか、暗号通貨にまつわるデータ処理の遅さやそれに伴う売買手数料の高止まりなどの問題が改めて浮き彫りになっている。こうした基盤技術の構造的な問題は、いかに解決されていくものなのか。 TE... 続きを読む
Pythonで大量データ処理! PySparkを用いたデータ処理と分析のきほん // Speaker Deck
All slide content and descriptions are owned by their creators. 続きを読む
「AIに聞いてみた」は相関と因果を混同してない?の声
NHKのAI番組、トークで相関関係を因果関係として語りまくってるので、内容的にはかなりヤバイのではないかと思う。AIがどういうデータ処理をするかが分かるのは面白いのだが。 続きを読む