どれだけの認知処理をユーザーの近くで実行できるか
ローカル推論、クラウドスケールの推論、プライベートなコンテキスト、ハイブリッドなオーケストレーションの境界を研究しています。
- オンデバイスでのモデルルーティングとスケジューリング。
- プライベートなコンテキストウィンドウとメモリストア。
- レイテンシを考慮したモデルカスケード。
Thyn Research は、ローカルインテリジェンス、自律型ソフトウェア、市場エンジン、検証された実行の背後にあるシステムの課題を研究しています
ローカル推論、クラウドスケールの推論、プライベートなコンテキスト、ハイブリッドなオーケストレーションの境界を研究しています。
信頼できるエージェントには、ツール呼び出し以上のものが必要です。トレース、ポリシー、不変条件、テスト可能なプラン、障害復旧が求められます。
トレーディングシステムには、シミュレーション、タイミング、不確実性の推定、リスク管理、敵対的ロバスト性が必要です。
暗号インフラは、アイデンティティ、履歴、リプレイ、署名、認可をめぐるより強力な保証へと至る道筋を提供します。
自律型グロースシステムは、クリエイティブの生成、アトリビューション、実験設計、予算配分、ポリシー制約を組み合わせます。
私たちはカテゴリ的な言葉よりも、テスト可能な問いを重視します。優れた Thyn のリサーチの問いには、ワークロード、メトリクス、障害モード、そしてプロダクションへの道筋が備わっているべきです。
ノート
なぜAIプロダクトには、モデルのベンチマークだけでなくレイテンシバジェットが必要なのか。オフラインで高スコアのモデルでも、ループ全体がユーザーの実際に待てる時間を超えれば、壊れているように感じられます。
ノート
自律型ワークフローにおけるトレース、決定論的テスト、障害分析のためのフレームワーク。あらゆるアクションがリプレイ可能になると、不調な実行は一度きりの謎ではなく再現可能なケースになります。
ノート
執行エンジンが、ライブ環境へ投入する前に戦略を評価する方法。過去および合成のオーダーフローに対してシミュレーションすることで、ミスのコストがまだゼロのうちにリスクとスリッページを浮かび上がらせます。