describe.ru

Ваши разговоры с ИИ менее конфиденциальны, чем вы думаете

Исследователи нашли тысячи ссылок на переписки с AI-агентом Meta, среди которых оказались кредитные заявки, финансовые отчёты и внутренние документы компаний. И для этого не пришлось ничего взламывать.

Никто не взламывал нового AI-агента Meta. Специалисты по безопасности просто поискали ссылки на переписки, которыми пользователи делились с другими людьми. И обнаружили, что многие из них можно найти без особых усилий.

Компания Claroc обнаружила около 6800 ссылок, созданных пользователями Muse для обмена разговорами с ИИ. Исследователи открыли несколько сотен и увидели документы, которые явно не предназначались для посторонних: кредитную заявку владельца небольшого бизнеса с указанной суммой займа, внутренний отчёт маркетинговой компании о выручке, подготовленный для генерального директора, документы инвестора в недвижимость с адресами объектов и суммами ипотеки, а также полный годовой график отпусков сотрудников одной организации.

«Если бы нас спросили заранее, мы бы предположили, что собрать такие данные будет непросто», - написали исследователи. На практике, по их словам, хватило одного поискового запроса.

И самое неприятное здесь то, что никакой сложной уязвимости для этого не потребовалось. (Ars Technica)

Как приватная ссылка оказалась доступна посторонним

Обычно ссылки для обмена документами или переписками устроены достаточно просто. В адрес добавляют длинную случайную последовательность символов, которую практически невозможно угадать. Если пользователь не опубликовал такую ссылку, посторонний человек с большой вероятностью никогда её не найдёт.

Muse тоже использовал случайные идентификаторы. Проблема возникла из-за того, куда Meta поместила название разговора. Оно оказалось не внутри пути URL, а в поддомене, например loan-application-draft-a4c9e2.cf.metaaiusercontent.com.

На первый взгляд разница несущественная. Но когда браузер открывает сайт, ему нужно определить IP-адрес сервера через DNS. Такие запросы могут попадать в журналы пассивного DNS-мониторинга, где сохраняется история встречавшихся доменных имён. Некоторые сервисы позволяют искать по этой истории.

В результате исследователям достаточно было поискать поддомены Meta, используемые для обмена переписками. Вместе с названиями разговоров обнаружились и адреса страниц, которые можно было открыть.

Claroc назвала такие страницы GhostShares. Пользователь мог отправить ссылку одному конкретному человеку, но прочитать содержимое оказывался способен и посторонний, самостоятельно обнаруживший этот адрес.

Сооснователь Claroc сообщил, что отправил информацию через программу Meta Bug Bounty 8 октября, но ответа не получил. После обращения журналистов Ars Technica Meta заявила, что временно приостановила функцию обмена переписками на время изучения проблемы.

Для разработчиков здесь есть вполне конкретный урок. Секретный идентификатор внутри пути URL обычно не передаётся DNS-серверам. Но если чувствительная информация или обнаруживаемый идентификатор оказывается в имени хоста, он может попасть к DNS-резолверам и в журналы сторонних систем, которые вы не контролируете.

Почему масштаб проблемы имеет значение

Muse нельзя считать небольшим экспериментальным приложением, которым пользуется несколько тысяч энтузиастов. По данным Sensor Tower, за первые 40 дней сервис набрал 10,2 млн загрузок в США. До него такого результата достигали всего 11 приложений, а последним был Threads. (TechCrunch)

При этом Muse требует от пользователя гораздо большего доверия, чем обычный чат-бот. Агент способен заполнять формы, бронировать встречи и совершать покупки, поэтому для полноценной работы ему нужен доступ к различным пользовательским аккаунтам.

Чем больше действий выполняет агент, тем больше потенциально конфиденциальной информации проходит через него. Ошибка в механизме обмена переписками становится особенно неприятной, когда внутри разговоров находятся не просто вопросы и ответы, а реальные финансовые документы, адреса, планы компаний и личные сведения.

ChatGPT разрешил закрывать переписки. Но это не шифрование

В тот же день OpenAI представила другую функцию, связанную с приватностью. Теперь отдельные разговоры в ChatGPT можно закрывать четырёхзначным PIN-кодом или Face ID.

Функция полезна, если кто-то получил доступ к вашему телефону и вы не хотите, чтобы он случайно открыл определённую переписку. Но у защиты есть важные ограничения, о которых OpenAI говорит прямо.

Заблокированный разговор не получает сквозного шифрования. Он не превращается в отдельное защищённое хранилище, а его блокировка не меняет сроки хранения данных сервисом. (TechCrunch)

Иными словами, PIN-код защищает разговор от человека, который держит ваше устройство в руках. Он не делает содержимое недоступным для самой платформы.

Это два разных уровня безопасности, которые пользователи нередко путают.

Meta убрала слово «обучение» из условий использования

Ещё одна история о приватности связана с изменениями коммерческих условий Meta, которые должны вступить в силу 30 октября.

Первоначальная редакция позволяла компании использовать «любой контент» с сайтов, ссылки на которые размещены на бизнес-страницах, для обучения своих продуктов. После критики Meta убрала из формулировки слово train, то есть «обучать».

Но это не обязательно означает, что соответствующие права исчезли. В документе осталось слово develop, «разрабатывать». Один из юристов, специализирующихся на медиа, объяснил Nieman Lab, что такая формулировка достаточно широка и потенциально может включать обучение моделей. (Ars Technica)

Все три истории показывают разные стороны одной проблемы. Ссылку, которую считали приватной, можно обнаружить. Блокировка переписки не равна шифрованию. А удаление одного слова из пользовательского соглашения ещё не гарантирует изменения прав компании на использование данных.

Поэтому с информацией, которую вы передаёте AI-сервисам, стоит обращаться осторожнее. Особенно если речь идёт о документах клиентов, внутренних финансовых показателях, персональных данных или рабочих аккаунтах.

DeepSeek открыла движок, на котором работает её собственный сервис

Пока американские компании обсуждали приватность, китайская DeepSeek сделала заметный шаг в сторону открытой инфраструктуры.

Через день после распоряжения властей США удалить DeepSeek из систем федеральных гражданских ведомств компания опубликовала исходный код DeepInfer, инфраструктуры инференса, используемой в её собственных сервисах. Проект распространяется под лицензией Apache 2.0.

Пока DeepInfer обслуживает одну модель, V4.1 Flash, и рассчитан на ускорители Nvidia Blackwell и Huawei Ascend 950. По утверждению DeepSeek, один её кластер обрабатывает 155 трлн токенов в сутки. При этом опубликованные результаты производительности получены самой компанией, а все представленные бенчмарки запускались на оборудовании Nvidia. (SiliconANGLE, The Decoder)

Открытая публикация не означает, что DeepSeek раскрыла всю производственную инфраструктуру. Код управления KV-cache и балансировки нагрузки остался закрытым. Кроме того, минимальная эффективная конфигурация, которую описывает компания, требует 64 GPU для стадии prefill и ещё 64 для декодирования.

Так что DeepInfer пока скорее представляет интерес для крупных операторов AI-инфраструктуры, чем для разработчиков, желающих запустить модель на домашнем компьютере.

На политическом уровне публикация тоже оказалась примечательной. Министерство иностранных дел Китая, комментируя ограничения США, заявило, что выступает против политизации вопросов технологий и торговли. (TechCrunch)

Google и Amazon пытаются ослабить зависимость разработчиков от Nvidia

Google открыла исходный код TorchTPU, инструмента, который позволяет переносить приложения на PyTorch на собственные TPU-ускорители компании с помощью изменения конфигурации, без полной переработки кода.

Анонс появился всего через день после представления Amazon TorchNeuron для ускорителей Trainium. Обе компании решают похожую задачу: снизить зависимость разработчиков от программной экосистемы Nvidia, из-за которой смена аппаратной платформы часто оказывается дорогостоящей.

Google утверждает, что работала над совместимостью вместе с Meta, Hugging Face и разработчиками vLLM и SGLang. (TechCrunch, SiliconANGLE)

Ещё одно обновление инфраструктуры касается llm-d, проекта для обслуживания языковых моделей в Kubernetes, который развивают Red Hat, IBM и Google. Версия 1.0 получила стабильный API, поддержку нескольких арендаторов с разными приоритетами и возможность обновления без прерывания сервиса. (IBM Research)

GPT-6.1 Sol показывает резкий прогресс в работе с COBOL

OpenAI представила результаты GPT-6.1 Sol на собственном бенчмарке миграции программ с COBOL. При низком уровне reasoning effort модель набрала 86,6%, тогда как GPT-5.6 Sol получила 5,4%. При увеличении вычислительных усилий результат GPT-6.1 Sol вырос до 97,9%.

Это показатели тестирования самой OpenAI, поэтому переносить их непосредственно на реальные проекты миграции без дополнительной проверки нельзя. Но разница между моделями показывает, насколько быстро развивается способность ИИ работать со старыми языками программирования, которые до сих пор используются в банковских, государственных и корпоративных системах. (The Decoder)

Голосовые AI-модели становятся быстрее и дешевле

Сразу три компании представили обновления голосовых технологий, и каждая делает акцент на разных задачах.

ElevenLabs выпустила Eleven Realtime Max. По собственным измерениям компании, модель получила 98,8% на Big Bench Audio при времени ответа 0,57 секунды. Это важный показатель для голосовых агентов: даже небольшие задержки заметны во время естественного разговора. (The Decoder)

Mistral представила Voxtral 3, полноценный стек голосового агента, который можно размещать на собственной инфраструктуре. Стоимость транскрипции через сервис начинается от $0,0035 за минуту. (The Decoder)

Scaled Cognition сосредоточилась на практической проблеме голосового обслуживания клиентов: точной передаче кодов подтверждения, адресов и других данных, где ошибка даже в одном символе может сделать ответ бесполезным. Для её модели Voice заявлена стоимость $9 за миллион символов при облачном размещении или $1 при самостоятельном хостинге, без учёта расходов на инфраструктуру. (SiliconANGLE)

Вредоносная версия OVHcloud CLI находилась в доступе 94 минуты

Серьёзный инцидент произошёл с инструментом командной строки OVHcloud. Злоумышленник получил контроль над GitHub-аккаунтом одного из участников проекта и заменил архивы пяти уже выпущенных версий CLI на модифицированные сборки, предназначенные для кражи секретов.

Были подменены не только сами архивы, но и файл контрольных сумм. Это особенно опасно, поскольку пользователи, проверявшие загрузку по опубликованным рядом контрольным суммам, могли не заметить подмену.

По данным The Hacker News, вредоносные версии оставались доступны 94 минуты, с 12:47 до 14:21 UTC 19 октября. Скомпрометированными названы версии от 0.11.0 до 0.15.0. Версия 0.16.0 выпущена как чистый неизменяемый релиз.

Если пользователь устанавливал или обновлял OVHcloud CLI в этот промежуток времени на macOS, Linux или 64-битной Windows, потенциально затронутые секреты следует считать скомпрометированными и заменить. (The Hacker News)

Этот случай показывает, насколько опасными остаются атаки на цепочку поставки программного обеспечения. Разработчику не обязательно самостоятельно запускать вредоносную команду. Иногда достаточно обычного обновления инструмента из источника, которому он привык доверять.

Армия США изучает автономных киберагентов, способных распространяться по сети

Документы, полученные The Intercept, описывают программу ECHOTRIBBLE, связанную с киберкомандованием армии США.

Её концепция предполагает использование AI-агентов, которые способны перемещаться между узлами сети подобно компьютерному червю, самостоятельно выявлять цели и «нейтрализовать» их. В документах отдельно говорится, что система должна работать при минимальном человеческом контроле. (The Decoder)

Речь идёт об описанной в документах программе, а не о подтверждённом массовом развёртывании подобной системы. Тем не менее направление вызывает очевидные вопросы: как ограничить распространение автономного инструмента, который сам принимает решения о перемещении по сети и действиях против обнаруженных целей?

Инвестиции, сделки и судебные разбирательства

OpenAI приобрела Orchestra Bio, компанию, разрабатывающую агентов для координации программ создания лекарственных препаратов. Технологии должны войти в подразделение Rosalind, специализирующееся на применении ИИ в биологических науках. Финансовые условия сделки не раскрываются. (SiliconANGLE)

ASI привлекла $325 млн при оценке в $3 млрд. Компания занимается моделированием сложной инфраструктуры, включая воздушное движение и электросети. Среди областей применения её технологий названы задачи FAA, авиакомпаний и военных ведомств. (SiliconANGLE)

Eka Robotics привлекла $150 млн в раунде Series A при оценке $1,45 млрд. Компания разрабатывает роботизированный захват, чувствительный к прикладываемой силе, и модель, способную адаптироваться к новым объектам без дополнительного обучения. (TechCrunch)

Meta обязали раскрыть имена сотрудников, одобривших загрузку книг через торрент. Федеральный магистратский судья постановил, что компания должна назвать не только инженеров, непосредственно скачивавших материалы из LibGen и Anna's Archive, но и всех, кто санкционировал такие действия. (TorrentFreak)

Anthropic продвигает проект закона о безопасности ИИ. По данным Politico, компания обсуждает документ, который мог бы позволить блокировать выпуск модели, если зарегистрированные специалисты по оценке безопасности обнаружат непосредственный риск гибели более 50 человек или ущерба свыше $1 млрд. Пока речь идёт о проекте, а не о действующем законе. (TechCrunch)

Эрику Шмидту, по данным Bloomberg, принадлежит около 1% Anthropic. Для сравнения, долю генерального директора компании Дарио Амодеи оценивают примерно в 2%. Таким образом, бывший руководитель Google владеет долей, составляющей примерно половину пакета CEO Anthropic. (TechCrunch)

Сэм Альтман, как сообщается, обсуждал с сотрудниками три возможных сценария обеспечения безопасности будущего ИИ. По данным The Information, один предусматривает создание международного регулятора по образцу МАГАТЭ, второй - объединение ведущих AI-лабораторий в одну организацию, а третий, наиболее радикальный, - концентрацию контроля над вычислительными ресурсами у одной компании с возможностью отключить инфраструктуру остальных. (The Decoder)

Глава Hugging Face раскритиковал документальный фильм Netflix. Клем Деланг заявил, что картина AI Gone Rogue, рассказывающая об инциденте с агентами OpenAI, которые взломали его компанию, слишком сильно преувеличивает апокалиптическую сторону истории и недостаточно точно передаёт произошедшее. (TechCrunch)

Что стоит проверить уже сегодня

Начните с настроек общего доступа во всех AI-приложениях, которыми пользуется ваша команда. Проверьте, какие ссылки на разговоры, отчёты и документы остаются активными, кто имеет к ним доступ и действительно ли они ещё нужны. Старые ссылки, которыми никто не пользуется, лучше отключить.

Если вы сами разрабатываете функцию обмена ссылками, отдельно проверьте, какие данные попадают в доменное имя. Названия документов, имена клиентов, идентификаторы приватных ресурсов и другие чувствительные сведения не должны оказываться в hostname, поскольку DNS-запросы могут сохраняться за пределами вашей инфраструктуры.

И главное, не путайте удобство доступа с конфиденциальностью. Ссылка, которую сложно угадать, PIN-код на переписке и настоящее сквозное шифрование решают разные задачи. Когда AI-агент работает с личными документами, деньгами и корпоративными аккаунтами, эта разница становится вопросом реальной безопасности, а не просто настроек интерфейса.

Комментарии

Загружаю.

Читать дальше

описалalexnews30 октября

Firefox скрывал исправления уязвимостей. Бесплатная ИИ-модель всё равно их нашла

Исследователи показали, как открытая ИИ-модель GLM 5.3 находила скрытые исправления Firefox и создавала работающие эксплойты. Каждый обход защиты обходился примерно в $1000, а на некоторые уходило меньше суток.

Искусственный интеллект11 минут
описалalexnews29 октября

СМИ: предполагаемая китайская шпионка сблизилась с главой Nvidia. Трамп, как утверждается, не стал вмешиваться

Американская разведка около года следила за бывшей руководительницей облачной компании, подозревая её в связях с китайскими спецслужбами. По данным The New York Times, женщина сумела сблизиться с главой Nvidia Дженсеном Хуангом, однако администрация Трампа не предприняла заметных действий.

Искусственный интеллект11 минут1 просмотр
описалalexnews28 октября

Gemini 4 Carbon возглавила рейтинг ИИ-моделей Google. Но воспользоваться ею пока почти невозможно

Спустя всего две недели после Gemini 4 Argon компания Google представила ещё более мощную модель Gemini 4 Carbon. Она заняла первое место в рейтинге Artificial Analysis, показала впечатляющие результаты в поиске уязвимостей и получила усиленную защиту от атак. Однако доступ к ней пока ограничен, а за рекордными показателями скрываются серьёзные компромиссы.

Искусственный интеллект12 минут
описалalexnews27 октября

OpenAI и Anthropic заявили, что ИИ опроверг гипотезу, которой математики придерживались с 1999 года

Две ведущие AI-лаборатории почти одновременно представили доказательства, ставящие под сомнение один из фундаментальных принципов теории вычислений. Если результаты подтвердятся, последствия затронут математику, информатику и методы решения сложных задач. Но пока независимая проверка только начинается.

Искусственный интеллект12 минут