世界中のAIコミュニティが集まるこのイベントでは、トップ企業や業界リーダーが一堂に会しました。革新と未来技術をテーマとしたこのカンファレンスで、novita.ai の共同創業者 Bill Yao 氏は基調講演を行っただけでなく、「Innovating Infrastructure for LLM」と題されたパネルディスカッションにも参加し、他の業界専門家とAIインフラの革新と発展について意見を交わしました。
連続起業家である Bill Yao 氏は、
連続起業家である Bill Yao 氏は、以前P2Pストリーミング技術に基づく中国最大のオンラインテレビプラットフォームを設立し、BlueRun Venturesで初期段階のテクノロジー投資を担当しました。GenAIカンファレンスでは、特に大規模言語モデル（LLM）の応用において、技術革新を通じてAI推論コストを削減する方法についての洞察を共有しました。
カンファレンスのホストであるサンフランシスコ市長 London Breed 氏は、スピーチでサンフランシスコの革新都市としての歴史と地位を強調しました。彼女は、サンフランシスコが丘の上の商品配送問題を解決したケーブルカーや人間の娯楽方法を変えたテレビなど、日常生活を変える重要な発明を生み出しただけでなく、Forbes AI 50企業のうち21社が拠点を置き、最大224億ドルの投資を集めていることを述べました。
カンファレンスのホストであるサンフランシスコ市長 London Breed 氏がスピーチを行いました
パネルディスカッション「Innovating Infrastructure for LLM」（GPTステージ | 16:00-16:45）において、Yao 氏は他の専門家とともに、LLMをサポートするインフラ構築の方法について深く議論しました。彼は、モデル圧縮を通じてGPUデータセンターのコストを削減し、推論を高速化することの重要性を強調し、この分野における novita.ai の実践的な経験と技術的成果を共有しました。
Yao 氏はまた、モデル最適化における novita.ai の革新的な技術についても紹介しました。低遅延・高帯域・低ジッタのインテリジェントな国際高速化ネットワークの実装、ソフトウェアレベルの動的最適経路選択、UDP信頼性伝送、プロトコル最適化により、novita.ai はAI推論タスクの効率を大幅に向上できると述べました。
さらに、Yao 氏はコスト削減におけるサーバーレス技術の役割を強調しました。サーバーレスにより、開発者はアプリケーションを迅速に構築・デプロイし、運用オーバーヘッドとコストを削減できます。サーバーレスプラットフォームを通じて、novita.ai は顧客のモデルコールドスタート時間の短縮、リクエストエラー率の低減、コスト削減、プロジェクト立ち上げ時間の短縮を支援してきました。
Yao 氏のスピーチは、参加者にAI推論コスト削減の実行可能な道筋を提供しただけでなく、AI技術のさらなる発展と応用に向けた貴重なアイデアと実践例を提供しました。
Novita AI は、あなたのAIの野望を実現するオールインワンのクラウドプラットフォームです。シームレスに統合されたAPI、サーバーレスコンピューティング、GPUアクセラレーションにより、AI主導のビジネスを迅速に構築・拡大するためのコスト効率の高いツールを提供します。インフラストラクチャの悩みから解放され、無料で始めましょう — Novita AI があなたのAIの夢を現実にします。
おすすめ記事:
