増え続けるファイル容量について

増え続けるファイル容量について

 企業や研究機関などでは、文書や表計算データといった一般のデータだけではなく、各種サーバーのログデータや送受信メールなど、保存/管理しなければならないデータの容量は肥大化の一途をたどっています。

 素粒子物理学、天文学、生命科学などの科学技術分野では、さらにその上をいきます。実験装置やスーパーコンピュータの発展に伴い、年間にテラバイト(ギガバイトの1,000倍)、ペタバイト(テラバイトの1,000倍)といった従来では考えられない位の大容量のデータが生成されるようになりました。

 特に有名なのは、最近ブラックホール騒動もあった欧州合同原子核研究所(CERN)のLHC実験です。この実験では、年間数十ペタバイトのデータが生成される予定になっています。

 CERNには体育館並の大きさの計算機室がありますが、さすがにこれだけの大量データの格納やデータ解析処理は大変です。そのため10年近く前から、地域データ解析センターを各地に配置し、データ格納とデータ解析を分担して行う仕組みを作ってきました。

データ共有基盤JLDGで扱うデータ

 本連載では、国内の計算素粒子物理学の研究者がデータを共有するためのデータ共有基盤JLDG(Japan Lattice Data Grid)を取り上げますが、ここで実際にどのようなデータを扱っているのかを理解するために、物理の話を簡単に紹介しておきます。

 計算素粒子物理学では、格子QCDシミュレーションによってハドロン物理や素粒子標準模型の研究を行います。素粒子標準模型といえば、先日ノーベル物理学賞を受賞された南部先生、小林先生、益川先生を思い出される読者も多いと思います。計算素粒子物理学は、その標準模型を数値シミュレーションにより研究するものです。

 ただし、そのためには膨大な計算が必要です。現在国内最速のスーパーコンピュータを利用しても計算に数ヵ月から数年かかります。その計算の結果、計算素粒子物理学を進めるための貴重なデータが生成されます。そのデータを元にすると、素粒子の質量の決定などさまざまな物理学の研究ができるようになります。そのため、国内外の研究者は、その貴重な大容量のデータを共有し、データ解析を進めたいと考えています。

 現在、JLDGでは筑波大の並列計算機CP-PACSなどで計算した7.5テラバイトほどのQCDデータが公開されています。今後、筑波大のPACS-CS(図2)、高エネルギー加速器研究機構のBlueGene/Lなどで計算されたQCDデータの公開が予定されています。また、現在もT2Kオープンスーパーコンピュータ(図2)などで計算が続行中です。

 このように計算し生成された大容量のデータを、国内の研究機関が共有するために構築されたデータ共有基盤がJLDGです。

人気記事トップ10

人気記事ランキングをもっと見る

企画広告も役立つ情報バッチリ! Sponsored

ClickHouse Cloudが実現した広告運用SaaS「ATOM」のデータ基盤革新、パフォーマンスを向上しながら、運用負荷とコストを削減 11月11日 6:20 AIで開発が加速する時代、品質保証はどう変わる? Tricentisが示すAIエージェント活用の実像 11月9日 6:45 悪用までの猶予が「1分」に迫るフロンティアAI時代に開発と本番を貫く脆弱性管理が必要 10月29日 8:30 欧州CRA対応とSBOM運用。AI生成コードのOSS混入問題の対策とは ――スニペット単位で検出する「FossID」「Insignary Clarity」によるSBOM運用 9月16日 6:40 PostgreSQLからTiDBへ、稼働中SaaSで進める段階的DB移行の実践と再設計への展望 9月7日 6:30 機能安全開発におけるGoogleTestの活用を支援!「Parasoft C/C++test CT」で実現する効率化&AI連携 4月14日 6:30 【CNDW2025】Grafanaが明かす「オブザーバビリティの哲学」ー最小限の労力で実用的なインサイトを得るには 1月23日 6:30 【CNDW2025】プロダクト急増に備える基盤刷新 ーウェルスナビがECSからEKSへの移行で得た知見とは 1月15日 6:30 【CNDW2025】250環境を5人で運用、構築時間は30分に ーKINTOテクノロジーズが語るインフラ基盤組織の作り方 2025年12月18日 6:30 新たな自動化で熱視線! AIエージェントの「推論能力」を支える2つのコンポーネントとは? 2025年11月28日 6:30