オープンソース・ビッグモデル・ツールのローカル展開

一般的な紹介 Exoは、日常的なデバイス（iPhone、iPad、Android、Mac、Linuxなど）を使用して独自のAIクラスタを実行するように設計されたオープンソースプロジェクトです。動的なモデル分割と自動化されたデバイス検出により、Exoは複数のデバイスを1つの強力な...

一般的な紹介 Petalsは、BigScienceワークショップによって開発されたオープンソースプロジェクトで、分散コンピューティングアプローチによって大規模言語モデル（LLM）を実行する。コンシューマーグレードのGPUやGoogle Co...

概要 アフロディーテエンジンはPygmalionAIの公式バックエンドエンジンで、PygmalionAIのサイトに推論エンドポイントを提供し、Hugging Face互換モデルの迅速な展開をサポートするように設計されています。このエンジンはvLLMのp...

はじめに KoboldCppは、オリジナルのKoboldAIにインスパイアされた、GGMLおよびGGUFモデルのための使いやすいAIテキスト生成ソフトウェアです。

概要 LocalAIは、OpenAIやClaudeなどと互換性のあるAPIインターフェースを提供するように設計された、オープンソースのローカルAI代替ソフトウェアです。コンシューマーグレードのハードウェアで動作し、GPUを必要とせず、テキスト、オーディオ、ビデオ、画像生成、複数の音声クローンが可能です。

概要 RWKV-Runnerは、RWKVモデルのために特別に設計された管理・起動ツールであり、使いやすいRWKV管理・起動ツールの提供を目指しています。完全に自動化されており、サイズも8MBと小さく、OpenAI APIとの両方を提供しています。

概要 AIStarterは、AIプロジェクト管理を簡素化するために設計された無料のプラットフォームで、Windows、Mac、Linux上であらゆる種類の一般的なAIオープンソースプロジェクトを簡単にダウンロード、インストール、共有することができます。すぐに使えるパッケージングと共有機能を提供し、強力なコミュニティ...

概要 GaiaNet-AI/gaianet-nodeは、Mac、Linux、Windows WSLにデフォルトのノード・ソフトウェア・スタックを1つのコマンドで素早くインストールできるオープンソースプロジェクトです。ユーザはノードの初期化、設定のカスタマイズ、ダウンロード...

Pinokio（ピノキオ） 概要 Pinokio（ピノキオ）は、革新的なAIオープンソースプロジェクトデプロイツールで、ビッグモデル関連の様々なアプリケーションをワンクリックで簡単にインストール、実行、プログラム制御することができます。Pinokioは、複数のプラットフォームでサポートされており、最も一般的なA...