minerva
AIを業務に取り入れるとき、最初に迷うのが「社内で動かすか、クラウドのサービスを使うか」です。どちらが正しいということはなく、会社の状況によって答えが変わります。判断の分かれ目になる問いを3つにまとめました。
01社外に出せない情報を、AIに渡すか
顧客の個人情報や、設計図・配合などの技術情報をAIで扱いたい場合、ローカルLLMが候補になります。一方で、法人向けのクラウドAIには入力内容を学習に使わない設定のものも多く、規約を確かめたうえでそれで足りる場合もあります。
02どのくらいの性能が要るか
社内で動かすAIは、最新のクラウドのAIに比べて性能が劣ります。文書の要約や社内資料の検索など、任せる範囲がはっきりしている業務ほど、ローカルLLMでも十分に役立ちます。
03設備を持ち続けられるか
ローカルLLMには、GPUサーバーのほか、電源、空調、保守が要ります。導入の費用だけでなく、動かし続けるための電気代や点検まで含めて考えることが大切です。
記事一覧へ戻る