LM StudioとOllamaは、どちらもOpenAI API互換のサーバー機能を持っています。外部にあるプログラムは、このサーバー機能を使うことで、LLMを利用できるようになります。そこで、サーバー機能を利用して、LM StudioとOllamaに推論を依頼するPythonのプログラムを作ってみましょう。

近年はソフトウェア開発にコーディングAIを使用する開発者が一般的になっており、コーディングAIの性能を測るさまざまなベンチマークが存在します。そんなコーディングAI向けベンチマークの欠点を改善したという新たなベンチマーク「DeepSWE」が登場しました。