LM StudioとOllamaは、どちらもOpenAI API互換のサーバー機能を持っています。外部にあるプログラムは、このサーバー機能を使うことで、LLMを利用できるようになります。そこで、サーバー機能を利用して、LM StudioとOllamaに推論を依頼するPythonのプログラムを作ってみましょう。

米Microsoftは6月2日（現地時間）、開発者向けカンファレンス「Build 2026」で、新しいオンデバイスの小規模言語モデル（SLM）「Aion 1.0 Instruct」を発表した。まずは「Microsoft ...

生成AIは、文章作成や要約、翻訳、資料作成、プログラミング支援など、さまざまな業務で活用が進んでいる。すでにChatGPTやGemini、ClaudeといったクラウドのLLM(大規模言語モデル)サービスを日常的に使っている人も多いだろう。ブラウザから ...

米NVIDIAは5月31日(現地時間)、WindowsにおけるAIエージェント向けプラットフォームの改善および強化、ローカルAIツールやクリエイター向けアプリにおける、RTX環境向けの最新の最適化および各種アップデートを発表した。

ローカル環境で大規模言語モデル（LLM）を実行するオープンソースツール「Ollama」の最新版v0.24.0が、5月14日にリリースされた。Windows/macOS/Linuxに対応しており、公式サイトから無償でダウンロードできる。

「Gemma 4 12B」の概要をまとめました。 Google DeepMind が、「Gemma 4 12B」 を発表しました。「Gemma 4 12B 」は、12Bパラメータの中型モデルです。エッジ向けの小型モデル「Gemma 4 E4B」と、より高性能な「Gemma 4 26B MoE」の間を埋めるモデルとして位置づけられています。