すべてのクローズドソースのフロンティアラボは、スタック全体で大量のオープンソースを使用しています。Python、PyTorch、huggingfaceから、RoPE、GQA、フラッシュアテンション、またはオープンソースプレイヤーによってリリースされた小さな改善に至るまで。