GrabがAndroid向け画像キャッシュを時間考慮型LRUで最適化

Grab のエンジニアは、Android アプリ内の画像キャッシュ管理を改善するため、従来の Least Recently Used (LRU) キャッシュから Time-Aware Least Recently Used (TLRU) キャッシュへと移行しました。これにより、ユーザーエクスペリエンスの低下やサーバーコストの増加を抑えつつ、より効果的にストレージを解放できるようになりました。 Grab の Android アプリでは、画像読み込みの主要フレームワークとして Glide が使用されており、ネットワーク呼び出しの削減、ロード時間の短縮、サーバーコストの低減を図るために、ローカルに画像を保存する LRU キャッシュが組み込まれていました。しかし、分析結果によると、100 MB の LRU キャッシュを使用することには重大な欠点がありました。多くのユーザーにおいてキャッシュがすぐに満杯となりパフォーマンスが低下する一方で、キャッシュサイズ制限を超えない限り画像が数ヶ月間キャッシュされたままになり、ストレージを無駄に消費するというケースも発生していました。 これらの制約を回避するため、彼らは LRU に時間ベースの有効期限機能を追加することを決定しました。TLRU は 3 つのパラメータを使用します。1 つ目は Time To Live (TTL) で、キャッシュエントリがいつ有効期限切れとみなされるかを決定します。2 つ目は最小キャッシュサイズしきい値で、キャッシュが未充足状態にある場合でも重要な画像が有効期限を迎えてもキャッシュされ続けることを保証します。3 つ目は最大キャッシュサイズで、ストレージの上限を強制するものです。 TLRU をゼロから実装するのではなく、Grab のエンジニアは Glide をフォークし、その DiskLruCache 実装を拡張することを選択しました。これにより、「成熟した、実戦で検証された基盤」を活用しています。 この実装は Android エコシステム全体で広く採用されており、クラッシュからの回復、スレッド安全性、パフォーマンス最適化といった、複製するには多大な労力を要する複雑なエッジケースを処理します。 DiskLruCache は、最終アクセス時刻の追跡機能の追加、時間ベースの排除ロジックの実装、既存ユーザーキャッシュ用の移行メカニズムの組み込みという 3 つの次元で拡張する必要がありました。 キャッシュエントリを最新のアクセス順にソートするためには最終アクセス時刻が必要であり、アプリの再起動を超えて永続化されなければなりませんでした。時間ベースの排除ロジックは、各キャッシュアクセス時に実行され、エントリを削除する前に最も最近アクセスされていないエントリが期限切れになっているかを確認します。既存キャッシュの移行における主な課題は、LRU エントリに最終アクセスタイムスタンプを割り当てることでした。ファイルシステム API には信頼できる情報源が存在しなかったため、Grab のエンジニアたちは移行タイムスタンプをすべてのエントリに割り当てることを決定しました： このアプローチはキャッシュされたコンテンツをすべて保持し、一貫したベースラインを設定しますが、排除の完全な恩恵を実感するには TTL（Time To Live）期間の待機が必要となります。また、双方向互換性も確保しました。元の LRU 実装ではタイムスタンプ接尾辞を無視して TLRU ジョーナルファイルを読み込むことができるため、必要に応じて安全にロールバックできます。 もう一つの課題は、制御された実験に基づいて最適な設定値を見つけることでした。 私たちの成功基準は、TLRU への移行中にキャッシュヒット率が最大でも 3 パーセントポイント（pp）減少することです。例えば、キャッシュヒット率が 59% から 56% に低下した場合、サーバーリクエスト数は 7% 増加します。この閾値は、ストレージの最適化と許容可能なパフォーマンスへの影響とのバランスを取っています。 このアプローチを用いることで、アプリユーザーの 95% がキャッシュサイズを 50MB 削減し、上位 5% のユーザーではさらに大きな節約効果が見られました。これらの結果に基づき、Grab のエンジニアたちは、キャッシュヒット率を許容範囲内に保ちつつサーバーコストを増加させることなく、端末全体でテラバイト単位のストレージを回収できると推定しています。 元の投稿には、ここでは取り上げきれない LRU の動作や TLRU 実装に関する非常に貴重な詳細情報が含まれています。完全な内容を把握するためにも、必ず原文をお読みください。 著者について セルジオ・デ・シモーネ セルジオ・デ・シモーネはソフトウェアエンジニアです。セルジオは、シーメンス、HP、そして小規模なスタートアップなど、多様なプロジェクトや企業で25年以上にわたりソフトウェアエンジニアとして活動してきました。過去10年以上にわたって、彼の専門分野はモバイルプラットフォームおよび関連技術の開発に焦点を当てています。現在、彼はBigML, Inc.で勤務し、iOS および macOS の開発を率いています。 もっと見る 表示しない

GrabがAndroid向け画像キャッシュを時間考慮型LRUで最適化

背景や根拠まで確認しますか？

関連記事

調べる

選ぶ

サイト