ログイン
無料のLM Studio、DFlash/DSpark/MTPで推論を高速化
ローカルでLLMを動かすときの遅さは、アプリ側の工夫でまだ改善できる。Element Labsは8月28日(現地時間)、「LM Studio」の最新安定版「0.4.22 Build 1」を公開した。同バージョンは、DFlashやDSpark、MTP Draftersという3つの投機的デコーディング手法に新たに対応した。公式Webサイトより無料で入手できる。
リーディングビュー
Cloudflareが1.1.1.1のDNSキャッシュを数十バイト単位で削り込んで100TBのメモリを節約
CloudflareがパブリックDNSリゾルバー「1.1.1.1」などで使われているDNSキャッシュのデータ構造を見直し、システム全体で約100TBのメモリを削減したと発表しました。ベンチマークではキャッシュ1件当たりのメモリ使用量が953バイトから420バイトへと56％減少し、メモリを減らしながらキャッシュへの書き込みや読み出しも高速化したとのことです。
旅行支援「九州ふっこう応援割」10月から実施決定。1泊2万円引き、ツアーは最大3万5000円補助
国土交通省は8月28日、旅行支援「九州ふっこう応援割」を10月1日宿泊分から実施すると発表した。九州における1泊以上の宿泊予約、JR・航空券など交通手段がセットになったツアー予約について、1人1泊あたり50％（熊本・鹿児島は60％）を上限に旅行・宿泊料金を補助する。
OpenAI・Anthropic・GoogleなどがAIによるサイバー攻撃の防御に関する共同声明を発表
AIモデルが高性能化するにつれてAIを利用したサイバー攻撃のリスクも高まっていることから、既存のシステムを見直して防御力を高めることが急務とされています。こうした防御力を先端AI企業が率先して提供すべきだとして、OpenAI、Anthropic、Googleなどが共同で声明を発表しました。
