Басня номер пять
Публичный релиз модели Fable 5 - одно из важнейших событий года. Anthropic выпустила её для общего пользования, но с такими ограничениями, что взрыв негодования пользователей не пришлось долго ждать. Ключевая претензия заключалась в том, что на ряд тем наложены очень жёсткие блокировки, в первую очередь на биологию и компьютерную безопасность. Вместо ответа на простейший вопрос «что такое митохондрия» сервис часто прерывал диалог и предлагал перейти на более простую и старую модель. Ограничения ударили ровно по тем сферам, где Fable имеет наибольшие преимущества.
Буквально через несколько часов после релиза выяснилось, что в ML/AI-задачах модель ведёт себя ещё коварнее: она не отказывалась выполнять запросы, но предлагала более безопасные, устаревшие или менее эффективные пути. В итоге в соцсетях Дарио Амодеи стали сравнивать с Пол Потом, Лениным и маньяком из «Молчания ягнят» одновременно.
Надо признать, что даже урезанная Fable 5 оставалась коммерчески ценным продуктом. Пусть для пользователей ограничения тем выглядели параноидальными, но в тех областях, где модель не перенаправляла пользователя, результаты действительно впечатляли. Видимо, предчувствуя реакцию, CEO компании Дарио Амодеи сопроводил релиз Fable 5 текстом, в котором он оправдывал необходимость ограничений ИИ, введения обязательного госрегулирования и тотального контроля над технологией.
Беда пришла откуда не ждали: в пятницу, через час после закрытия торгов, Fable (для простых пользователей) и Mythos (для непростых) попали под экспортные ограничения США. Инсайдеры быстро рапортовали, что причиной стали требования правительства США закрыть доступ к модели для всех иностранцев, включая сотрудников самой Anthropic. Так как реализация такого контроля не просто сложна, но и в некоторой степени абсурдна, Anthropic просто отключила эти модели для всех клиентов.
Последствия такого шага понятны: резкое снижение продаж в крайне чувствительный период. Компания активно готовится к IPO, и в отличие от конкурентов у неё есть операционная прибыль. На кону ни много ни мало, а триллион долларов - к этой цифре приближается оценка капитализации Anthropic. Внезапное ограничение, наложенное на самый ценный продукт компании, подкидывает в топку конспирологических теорий слишком много поленьев. Позволим себе аккуратно порассуждать на тему «кому выгодно».
Объем IPO на американском фондовом рынке в этом году беспрецедентный. Но проблема в том, что каждое IPO - это либо привлечение на рынок новых денег, которых на рынке ещё не было, либо перераспределение уже имеющихся на рынке денег из одних активов в новые. На дворе не 2020 год, напечатать 7 триллионов новых долларов не привлекая внимания санитаров уже не получится. Илон Маск понял это раньше других и влил свой xAI в SpaceX, таким образом упаковав ИИ вместе со своим Обществом Гигантских Ракет. Пример SpaceX продемонстрировал, что коротышки готовы нести свои фертинги любому, кто обещает им светлое будущее.
И тут вдруг кто-то вбросил, что старик Безос накатал донос друзьям из Белого дома, что Fable 5 слишком умён и модель сразу запретили. Другие указывают на личную неприязнь Трампа к Anthropic. Но недавний конфликт компании с Пентагоном развивался очень похоже: внезапно начались странные утечки в прессу и тут же последовал запрет. На этом фоне становится более понятным, зачем Дарио решил косплеить кентервильское привидение и превентивно погремел своими цепями в сопроводительном тексте к выходу новой модели.
Кажется, всё намного банальней: близкие к американской администрации смекнули, что выход на рынок Anthropic с объективно лучшим на фоне других продуктом означает, что следующим за ним придётся доедать то, что не доел Дарио. В сочетании с операционными показателями, застрявшими в красном болоте, для конкурентов перспектива выглядит мрачной. Поэтому искать того, кто на самом деле стоит за этим твистом, долго не придётся. Достаточно вспомнить, у кого AI-амбиции достигли планетарного масштаба.