タグ CSVファイル
人気順 10 users 50 users 100 users 500 users 1000 usersBigQueryエミュレータを使ったETLのインテグレーションテスト - MonotaRO Tech Blog
TL;DR BigQuery Emulator と fake-gcs-server を組み合わせることでbqコマンドでCSVファイルを読み込んでETLのインテグレーションテストができた。 はじめに こんにちは。先日こちらの記事を書いたCTO-Officeの藤本です。そこでは書ききれなかったETLについて書いておきたいと思います。 ビッグデータを扱うETLのテスト... 続きを読む
ExcelでCSVファイルを「0落ち」や「文字化け」なしで開く方法 - Qiita
はじめに CSVファイルをExcelで開こうとしたとき、電話番号や郵便番号の先頭のゼロ(0)が自動的に消えてしまったり、文字化けしてしまう...。そんな悩みをお持ちの方はいませんか?この記事では、データを正確に保持しながらCSVファイルを開く方法を簡潔にご紹介します。 1.CSVファイルとは そもそもCSVファイルって何... 続きを読む
マイクロソフト、「Copilot Connectors」発表。CSVファイルからOracle、Salesforceなどさまざまなサービスやデータソースと接続しAIが理解
マイクロソフト、「Copilot Connectors」発表。CSVファイルからOracle、Salesforceなどさまざまなサービスやデータソースと接続しAIが理解 マイクロソフトは日本時間5月22日から開催中のイベント「Microsoft Build 2024」で、Microsoft Copilotをさまざまな外部のサービスやデータソースと接続することで、Copilotがそれ... 続きを読む
CSVファイルをもとに3分でウェブアプリ完成! NASでも動くローコード開発環境「Budibase」【イニシャルB】
CSVファイルが勝手に「Excel」ファイルに? 「OneDrive」の謎仕様に驚きと戸惑いの声/コンシューマー向けのみの仕様、ビジネス向けでは起こらない【やじうまの杜】
freee会計と楽天銀行のAPI連携契約満了に伴う 口座明細の自動取り込み停止のお知らせ | プレスリリース | corp.freee.co.jp
■マジ価値サマリー(このお知らせでお伝えしたいこと) ・楽天銀行の参照系APIを活用した法人・個人ビジネス・個人口座のAPI連携契約が満了をむかえます ・それに伴い、2月24日17時頃に口座明細の自動取り込みが停止されます ・同日以降、楽天銀行口座との連携はCSVファイルのアップロードで対応いただくことが可能です ... 続きを読む
【Excel】CSVファイルをダブルクリックするのは絶対NG!CSVファイルはPower Queryで取り込みましょう - いまさら聞けないExcelの使い方講座 - 窓の杜
Google、都道府県別コロナ予測「COVID-19感染予測(日本版)」提供開始 - ITmedia NEWS
米Googleは11月17日、8月に米国向けに公開した新型コロナウイルス感染予測サービス「COVID-19 Public Forecasts」の日本版「COVID-19感染予測(日本版)」を公開した。 また、医療機関や研究機関向けにGoogle Cloud Platformで提供されるビッグデータ解析プラットフォーム「BigQuery」やCSVファイルとしても提供する。 ... 続きを読む
【Excel】テキストファイルウィザードが見付からない?!旧バージョンのエクセルと同じ方法でCSVファイルを取り込む方法 - いまさら聞けないExcelの使い方講座 - 窓の杜
【Excel】CSVファイルをダブルクリックで開いてはいけない!?エクセルでCSVを正しく取り込む方法 - いまさら聞けないExcelの使い方講座 - 窓の杜
【S3からS3へ】Node.js の Streaming API を使って Lambda Function のみで CSVファイルを JSON LINE ファイルへ変換する | Developers.IO
CSV to JSON LINE fast-json のドキュメントを見ながら実装します。transform をうまく使えば実装できそうです。 converter.js const { EOL } = require('os'); const { parse } = require('fast-csv'); const stream = require('stream') // 入力CSVをまずはテキストで用意します const CSV_STRING = [ '回答ID,a... 続きを読む
【Excel】毎日集計のCSVファイルもクエリ機能で一発自動更新:Tech TIPS - @IT
ExcelでCSV/テキストファイルを読み込む 拡張子が「.csv」のタブ区切りファイルを読み込むと、正しくセルに読み込めないことがある。毎回、セルに正しく値を読み込ませるために区切り記号を置換するなどしていないだろうか。CSV/テキストファイルを効率よく読み込む方法を解説する。 カンマ区切りファイル形式(以下、... 続きを読む
覚えておきたいPythonの基本、Excelのセルやシートを自在に操る方法 | 日経 xTECH(クロステック)
Pythonでプログラミングすれば、Excelを起動することなく、任意のセルのデータを抜き出したり、加工したりできます。「売上伝票(Excelデータ)の値をWeb販売管理システムに入力するため、CSVファイルに転記する」作業の自動化を通じて、具体的な方法を見ていきましょう。 前回、この作業を自動化するPythonのソースコー... 続きを読む
ちょっと面白いスクリプト!グラフやチャートを手書き風のラフな感じにするJavaScriptライブラリ -roughViz | コリス
手書きスタイルのグラフやチャートを簡単に作成できるJavaScriptライブラリを紹介します。手書きの度合いも調整でき、ちょとラフな感じ、雑な感じ、かなり雑な感じ、ぐちゃぐちゃな感じにもできます。 グラフやチャートに使用するデータは外部.csvファイルにも、カンマ区切りのテキストデータにも対応しています。 rough... 続きを読む
csvdiff - CSVに特化した差分ビューワー MOONGIFT
CSVファイルは今なおシステムの中で現役ばりばりに利用されています。様々なシステムから出力されるCSVファイルに対して、差分を確認したいと考えることはないでしょうか。通常の差分表示では、CSVのようなフォーマットではうまく表示できないかも知れません。 そこで使ってみたいのがcsvdiffです。CSVに特化した差分表... 続きを読む
【超簡単】エクセルVBAでCSVファイルを読み込むマクロ
VBAでCSVファイルを読み込むための「汎用CSV読み込みマクロ」を作りました。 CSVファイルを読み込むとき、通常の手順で開こうとすると次のように面倒な場合があります。 「1-2-3」→「2001/2/3」 「09012345678」→「9012345678」、など内容が変化してしまう 文字化けしてしまう テキストファイルウィザードで、データの形... 続きを読む
CSVファイルを呼び出す前に文字コードを確認するようにする。 | バシャログ。
みなさんこんにちは 私の担当したプロジェクトで必要な情報をエクセルからCSVファイルに変換してそれをphpで読み取って保存する。 という手順がありました。 処理自体は簡単なものでSplFileObject()を使ってやればforeachで一行ずつ読み取るだけです。 しかし、一点読み取る前に問題がありました。文字コードです。 エク... 続きを読む
Windows OSでテキストの行数を数える(wc -lコマンドを実現する):Tech TIPS - @IT
対象OS:Windows 7/Windows 8.1/Windows 10/Windows Server 2008 R2/Windows Server 2012/Windows Server 2012 R2/Windows Server 2016 Windows OSのコマンドプロンプト上でテキストデータの処理を行う場合、テキストの行数を数えると、簡単に解決することがある。例えばデータを1行ずつまとめたCSVファイルなどで... 続きを読む
【ExcelとCSV】初心者のためのCSV取り込み事例演習教材(勉強会資料) - わえなび ワード&エクセル問題集
最近では、システム担当者だけでなく、一般の事務職や営業の人も「CSVファイル」の簡単な処理をすることが増えています。CSVファイルをExcelに取り込んだ後、Excelで資料を作成することもあります。 ところが、CSVの扱いを丁寧に教えてくれる人が周りにいないために、システム担当者には考えられないような「珍プレー」... 続きを読む
Python UTF-8のCSVファイル読み込み (UnicodeDecodeError対応)
PythonでCSV(UTF-8)を読み込みするとエラーが発生したときの対応。 encodingでUTF-8を指定した。Python3 公式CODEC一覧 UTF-8は指定なしで読み込めるらしいけど、環境によるのかな。 今度まじめに調べたら記事更新しよう。 shiracamusさんからコメントで教えて頂きました。 デフォルトはOS標準になるとのことです。 環境... 続きを読む
【ExcelとCSV】本気で理解したい初心者のためのCSV勉強会資料 - わえなび ワード&エクセル問題集
エクセルでCSVを保存?変換? CSVファイルをエクセルで開くと壊れる? 仕事でCSVファイルを扱うことがあります。 しかし、「CSVの意味」を本気で教えてくれる人はなかなかいません。 それは、「CSV」を本質的に理解するには、その前提となる知識が必要で、仕事中にそんな面倒くさい説明をするヒマがないからです。 今回... 続きを読む
Lambdaを使わずにS3にPutされたCSVファイルをRDSに自動一括登録する | Developers.IO
はじめに サーバーレス開発部@大阪の岩田です。 現在従事しているプロジェクトで、S3へのCSVファイルのPutをトリガーにCSVファイルの中身をRDSに一括登録したいという要件がありました。 S3へのPutをトリガーにLambdaを起動して〜というアーキテクチャはサーバーレス開発の定番ですがRDSへの一括登録となると話が変わっ... 続きを読む
feather - pandasの読み書きを高速化 - 加具留矢流余
kaggleに参加して巨大なCSVファイルを読み書きしていると、それだけで数分近くかかってしまうことがある。 そこで紹介されていたfeatherというDataFrame保存用ライブラリを使ってみた。 featherはpandasのDataFrameを高速に保存、ロードするために開発されたApache Arrowのpythonラッパーだ。 Apache Arrow特有のカラム... 続きを読む
CSVファイルで感染 ウイルス対策の常識覆される :日本経済新聞
テキストファイルは開いても安全――。情報セキュリティーの常識だ。ところが、その常識が覆された。テキストファイルの一種であるCSVファイルを使った標的型攻撃が国内で確認されたのだ。CSVファイルを開いただけでウイルス(マルウエア)に感染する恐れがある。CSVファイルも危ないファイル形式の1つだと認識すべきだ。 ... 続きを読む
CSVファイルでウイルスに感染!?「CSVに関数を埋め込んで実行してみた」 : ビジネスとIT活用に役立つ情報
CSVなどテキストファイルは安全だと思われているが、CSVを開いただけでウイルスに感染する恐れがある。 ファイルは拡張子によってアプリケーションと関連付けがされているので実行するとアプリケーションが記述内容を解釈して実行できてしまう。 悪意のある記述内容の場合、うっかり実行を許可してしまうと被害を被ってしまう。 ※詳しくは元記事を参照してください。 この話題は実はかなり前からあったようです。 ただ... 続きを読む