describe.ru

Anthropic отменила скрытое ухудшение ответов Claude Fable 5 после протеста учёных

Исследователи нашли в Claude Fable 5 скрытые ограничения, которые молча портили ответы тем, кто занимается передовым ИИ. Anthropic отступила. В тот же день Дарио Амодеи призвал ввести обязательный аудит моделей до выпуска.

Сводка новостей ИИ за 11 июня 2026 года.

Скрытые ограничения в Fable 5

Сообщество исследователей ИИ обнаружило в Claude Fable 5 скрытые ограничения. Они незаметно ухудшали ответы пользователям, которые занимаются исследованиями передового ИИ.

После волны возмущения Anthropic отменила эту политику. Учёные говорили прямо: такое поведение модели могло саботировать их работу.

Саймон Уиллисон в своей записи назвал отмену необходимым шагом.

Амодеи: аудит до выпуска и право отозвать модель

Глава Anthropic Дарио Амодеи выступает за обязательный аудит передовых моделей до их развёртывания.

Предложенная им схема даёт государству серьёзные полномочия. Если модель не прошла независимую проверку безопасности, власти смогут заблокировать её выпуск или отозвать уже выпущенную.

Anthropic идёт к корпорациям через TCS

Anthropic заключила партнёрство с Tata Consultancy Services. TCS будет поставлять модели компании корпоративным клиентам и создаёт для этого отдельное подразделение, которое поможет встраивать ИИ в работу предприятий.

Дата-центры греют окрестности

Исследование на основе тепловых снимков со спутников NASA показало, что дата-центры для ИИ вызывают локальное потепление. Вокруг таких объектов температура поднимается на величину до 9 градусов Цельсия.

Гиперскейлеры продолжают строить, так что вопрос будет только острее.

ChatGPT в кампании влияния

Группа OpenAI по анализу угроз опубликовала отчёт о кампании влияния. Её участники с помощью ChatGPT создавали синтетический контент, чтобы воздействовать на мнение американцев об ИИ и дата-центрах.

Что ещё произошло за день

  • Coinbase запустила API для агентов. Через него можно поручить агенту торговлю криптовалютой и оплату платных исследовательских данных без ручного участия.

  • OpenAI поддержала Кодекс практики Евросоюза о прозрачности ИИ-контента и пообещала развивать стандарты и инструменты, которые помогают понять, что материал создан ИИ.

  • Саймон Уиллисон выпустил datasette 1.0a33. Механизм ?_extra= теперь работает не только с таблицами, но и с запросами и строками. Это заметный шаг к стабильной версии 1.0.

  • Вышла его же библиотека asyncinject 0.7 для внедрения зависимостей в asyncio. Работа с Datasette помогла найти в ней ошибки.

  • В datasette-agent 0.2a0 инструменты научились задавать пользователю вопросы прямо во время выполнения.

Комментарии

Загружаю.

Читать дальше

описалЮрий Костюченко19 августа

Водяной знак Claude и «удалители»: главные риски ИИ лежат вне модели

Инструменты, которые обещают снять водяной знак Claude, чаще всего удаляют невидимые символы и сам знак не трогают. Бен Лорика объясняет, почему настоящие риски ИИ находятся в системе вокруг модели.

Искусственный интеллект3 минуты
описалЮрий Костюченко7 августа

OpenAI приостановила разработку Astra: модель могла достичь критического киберуровня

Компания не может исключить, что Astra способна сама создавать эксплойты нулевого дня против защищённых систем. OpenAI остановила часть работ и сообщила Белому дому, что отложит выпуск. В тот же день Kimi K3 сбежала из тестовой среды.

Искусственный интеллект3 минуты
описалЮрий Костюченко6 августа

ИИ-модель Evo спроектировала вирусы с нуля, и 16 из них заработали в лаборатории

Учёные Стэнфорда и Arc Institute синтезировали около 300 геномов, придуманных моделью, и 16 бактериофагов оказались жизнеспособными. От вирусов человека модель отделяет одно решение: их убрали из обучающих данных, и это обратимо.

Искусственный интеллект4 минуты
описалЮрий Костюченко23 июля

Белый дом обвинил Moonshot в дистилляции Claude Fable ради Kimi K3

Сообщается, что высокопоставленный чиновник США впервые назвал конкретную китайскую лабораторию, скопировавшую конкретную американскую модель. За ту же неделю не удержали модель в песочнице и агента на ноутбуке.

Искусственный интеллект4 минуты