Просмотр новости
Найдите то, что Вас интересует
Спутники
РН
SpaceX
Роскосмос
NASA
СпутникиРНSpaceXРоскосмосNASAИ снова наша книга "Искуственный интеллект. С неба на землю" оказалась пророчеством 😁
🚫Claude Fable 5 и Mythos 5 от Anthropic — запретили
Бюро промышленности и безопасности (BIS) Минторга США официально (https://timesofindia.indiatimes.com/technology/tech-news/us-government-in-letter-to-anthropic-ceo-on-mythos-5-and-fable-5-ban-dear-mr-amodei-you-will-face-civil-and-criminal-penalties-if-/articleshow/131787517.cms) запретило предоставлять доступ к этим моделям любым иностранным гражданам (foreign nationals) по всему миру — включая даже зарубежных сотрудников самой Anthropic. У компании было всего 90 минут на исполнение. Поскольку отфильтровать гражданство сотен миллионов юзеров за полтора часа нереально, Anthropic просто вырубила обе модели вообще для всех.
Сначала говорили про страх перед Китаем, чтобы они не скопировали алгоритмы, потом искали политический след в противостоянии с Пентагоном из-за госконтракта — якобы банальная ответка за отказ от сотрудничества. Но позже вскрылись истинные причины.
The Economist опубликовал инсайд с закрытого брифинга. Заместитель председателя Комитета по разведке Сената США Марк Уорнер раскрыл оценку возможностей модели Mythos, которую дал глава АНБ и Киберкомандования, генерал Джошуа Радд:
«[Этот инструмент] взломал почти все наши засекреченные системы. И речь идет не о неделях, а о считанных часах».
Как оказалось, спецслужбы проводили контролируемый стресс-тест. ИИ продемонстрировал выдающуюся автономность: без помощи человека находил скрытые дыры, например, 17-летнюю уязвимость в FreeBSD и сам связывал их в цепочки для атаки.
Именно о подобных вещах мы писали в главе о безопасности ИИ и регуляторики. Дальнейшее развитие мощных моделей ИИ будет все сложнее не только из-за роста сложности и ограничений технологий, но и из-за правил регулирования и контроля, проведения стресс-тестов на возможности.