タグ

filesystemに関するkimutanskのブックマーク (6)

  • バッファキャッシュとAIO(1)

    プロセスがブロックする要因の一つにファイルI/Oがあります。これを同期I/Oと言いますが、POSIXではAIO(非同期 I/O、Asynchronous I/O)も定義しており、I/O中でもプロセスがブロックせず他の処理を進められるようになります。 記事ではバッファキャッシュからファイル I/Oを解説し、Linuxのio_submit(2)を用いたPOSIX準拠のAIOライブラリを試作してみます。 ファイルI/Oとバッファキャッシュ io_submit(2)ではDirect I/Oを用いますが、ライブラリの試作へ進む前にまずファイルI/Oのバッファ(バッファキャッシュ)について整理します。実は単にバッファと言ってしまうと誤解される場面が多くあり、例えばプログラミング入門一般としてファイルI/Oを取り上げる際には、 CPUの動作は速い。ディスクの動作は遅い。 両者の間に速度差を緩和する緩衝

    バッファキャッシュとAIO(1)
    kimutansk
    kimutansk 2016/11/15
    FILEのバッファとバッファキャッシュの違いはやらかしそう。バッファキャッシュ書込後プロセスがクラッシュしてもOSが生きていれば同期はされる・・でいいのかな。
  • 『画像システムの車窓から』

    2年半くらい画像システムを担当していたのですが、3月イッパイで異動することになりましたokzkです。 異動記念ということで、とりとめもなくエンジニアブログを書いてみます。長いです。よろしくお願いいたします。 画像システムのこれまでのストレージ事情最初にアメブロ(以下、単にブログ)のユーザ投稿画像関連でのストレージの歴史をアレコレをまとめてみようと思います。なお、以下swiftと書いたらOpenStack Swiftのことです。流行のプログラミング言語のことではありません。 はるか昔の状況昔は単純にWebDAVを複数台並べ、イッパイになったら更に次の世代のWebDAVを追加する、というような構成で、参照時に画像URLパスに含まれる年月ベースで適切な世代のWebDAVにルーティングしていました。 (参考:画像URLのパスの例) /user_images/20160401/00/shibuya/

    『画像システムの車窓から』
    kimutansk
    kimutansk 2016/03/25
    単なるファイル数でサービスを殺せるは確かに昔どこかで聞いたことが・・・ベストプラクティスはいい。ユースケースなりの対応があるわけですね。
  • そのファイル、安全に更新できていますか?(アトミックなファイル操作:前編)

    ハートビーツ最年長エンジニアの滝澤です。以前、弊社CTOにシニアおっさんエンジニアから若手エンジニアに向けて何か書いてくれと言われた気がしたので、アトミック(atomic)なファイル操作について3編に分けて紹介します。この内容は弊社の社内勉強会で話した内容をまとめ直したものです。 そのファイル、安全に更新できていますか?(アトミックなファイル操作:前編)←今回 そのファイル、安全に作成できていますか?(アトミックなファイル操作:中編) そのファイル、安全にロックできていますか?(アトミックなファイル操作:後編) 今回は「みなさん、安全にファイルの更新ができていますか?」ということについて、考えてみましょう。 あなたはあるサーバ上のファイルの更新を依頼され、もらったファイルをサーバ上でコピーして上書きしました。しばらくして、データに異常が発生したので調べて欲しいと言われました。さて、何が起き

    そのファイル、安全に更新できていますか?(アトミックなファイル操作:前編)
    kimutansk
    kimutansk 2013/10/12
    iノードを確認すれば簡単にアトミックかどうかはわかる、と。
  • XFSの想定Q&A

    RHEL 7のデフォルトファイルシステムがXFSになるので想定FAQを twitterでつぶやいた まとめ ext3/ext4からフォーマットせずにxfsへ移行できますか? →できません。バックアップのリストアによる移行をおねがいします RHEL7でext3/ext4はつかえますか? →引き続き利用可能です XFSで十分でかいとこまでいけるけどRHS買う必要あるの? →パフォーマンスや冗長性の要件にあわせてお選びください XFSって実績あるの? →はい。RHEL5に対する追加製品、RHEL6のAdd-onとして過去数年販売しており実績がございます。もし何か問題があればサポートにご確認ください。 XFSってX font serverとまぎらわしい →そうですね XFSって16EBまでいけるってwikipediaに書いてるよ →サポート上限は実際に検証したサイズなので論理的な上限より小さいです

    kimutansk
    kimutansk 2013/08/28
    デフォルト変わりますか。とまぁ、ただ動きっぱなしでバージョンアップするようなことはないので移行→ファイル移動であれば・・ 実態は今度調べますか
  • RHD補足資料 (Pagecache/swap) 2008/7/11 Tatsuo Kawasaki @kernel023

    1. RHD補足資料 (Pagecache/swap) 2008/7/11 Tatsuo Kawasaki 1 @kernel023 Rev RH236-20080711 Tatsuo Kawasaki 2. 1. アドレスについての復習(1) • メモリとページ • 物理メモリの位置を表現する物理アドレス • アーキテクチャ毎に異なるリニアアドレス (x86=32bit= 約 4G,x86_64=64bit=16EB※) • 上記アドレスの処理は H/W のメモリ管理ユニット (MMU) で行う • 変換テーブルはカーネルが用意しておく • アーキテクチャ毎にメモリを扱う単位が決まっている =ページサイズ (x86,x86_64=4KB, IA64= カーネル構築時に選択可 :8k,16k.. 等 ) 2 ※ 現在の CPU アーキテクチャでは 16EB の全てはユーザー / カーネルメ

    RHD補足資料 (Pagecache/swap) 2008/7/11 Tatsuo Kawasaki @kernel023
    kimutansk
    kimutansk 2013/07/05
    こういう風に階層として載っているのはわかりやすいですね。
  • Samsung Creates New File System F2FS For Linux, Good News For Android - Muktware

    is a totally awesome idea still being worked on. Check back later.

    kimutansk
    kimutansk 2012/10/08
    フラッシュメモリ向けの新しいファイルシステム、と。これ、SSDに適用すればサーバマシンにも入るんでしょうか。あまりわかっていませんが
  • 1
pFad - Phonifier reborn

Pfad - The Proxy pFad of © 2024 Garber Painting. All rights reserved.

Note: This service is not intended for secure transactions such as banking, social media, email, or purchasing. Use at your own risk. We assume no liability whatsoever for broken pages.


Alternative Proxies:

Alternative Proxy

pFad Proxy

pFad v3 Proxy

pFad v4 Proxy