Дэвид Абитбол(OPS and Infrastructure Lead ) озвучил эти цифры на конференции AI Engineer в Нью-Йорке: совокупная стоимость составляет около 30 центов за миллион токенов при использовании 56 чипов Nvidia, при этом веса модели обрабатываются на собственной инфраструктуре Revolut в США.
По сути, компания перестала платить завышенные цены за повседневную разработку. А еще становится сильно проще спать security команде. Т.к основную работу теперь делают в изолированной среде, которую можно мониторить и контролировать.