推論APIを使用することができ、私たちのインスタンス(は、ホストされたロードバランサーを使用して、すでに自己ホストされたOpen Webuiを持つすべてのインスタンス)の同じベースURLを維持します。これをローカルマシンでDockerで実行することができます。すでに多くの人々がこれを行っています。