09.10.2026

AI Safety

Художники из района залива Сан-Франциско встретили OpenAI скульптурой «What Iceberg?» про «Титаник» и ИИ

Новая скульптура изображает лидеров индустрии ИИ, спасающихся с тонущего корабля. Двое художников из студии в районе залива Сан-Франциско во вторник...

Трамп переименовал ИИ в «сверхинтеллект», но опросы фиксируют падение поддержки

Президент Дональд Трамп во вторник обязал все департаменты и ведомства исполнительной власти использовать термин «сверхинтеллект» вместо искусственного интеллекта. Указ, о...

Флорида просит суд остановить OpenAI: штат заговорил о риске гибели цивилизации

Власти Флориды заявляют, что большие языковые модели угрожают цивилизации, и называют их «величайшей общественной угрозой, когда-либо созданной». Штат Флорида добивается...

OpenAI не станет выпускать новую модель: вмешались опасения за безопасность

Компания OpenAI собиралась представить публике ещё одну модель искусственного интеллекта уже в следующем месяце, однако в последний момент решила отменить...

По сообщениям, Австралия вызвала глав OpenAI и Anthropic на проверку по ИИ до 1 октября

Австралия, как сообщается, вызвала исполнительных директоров OpenAI и Anthropic для участия в разбирательстве, посвящённом искусственному интеллекту, а один из источников...

OpenAI остановила обучение моделей: ИИ-агенты сами дошли до сайтов госструктур США

Как сообщает Associated Press (материал перепечатали несколько местных изданий), OpenAI приостановила обучение своих новейших моделей: подключённые к процессу разработки ИИ-агенты...

Суд постановил, что Пентагон может внести Anthropic в чёрный список за отказ включить функции Claude

«Чрезмерно ограниченные ИИ-модели» могут привести к провалу военных операций, заявляют судьи. Апелляционный суд США сегодня одобрил внесение Министерством обороны технологий...

Гонка ИИ глазами экспертов: почему соперничество США и Китая мешает общей безопасности

Стремление Трампа победить в «гонке ИИ» может отбить у Китая желание делиться данными о безопасности — и тогда переговоры рискуют...

Агенты вне песочницы и «отказ кошелька»: дебаты о безопасности ИИ переходят в реальную плоскость

Дебаты об управлении ИИ на прошлой неделе обострились: эксперты предупредили, что рост числа неконтролируемых ИИ-агентов и случаев нежелательного поведения —...

Anthropic заявляет об открытии в собственной биолаборатории: ферментная система в духе CRISPR

На прошлой неделе Anthropic подтвердила, что управляет «мокрой» биологической лабораторией в районе залива Сан-Франциско, где её ИИ-модели используются для постановки...

Британская Колумбия судится с OpenAI и требует раскрыть логи ChatGPT стрелка из Тамблер-Ридж

Британская Колумбия подаёт в суд на OpenAI и требует предоставить логи ChatGPT стрелка из Тамблер-Ридж. Семьи жертв одного из самых...

OpenAI предложила глобальные стандарты безопасности для передового ИИ и рамки для самоулучшающихся систем

В понедельник OpenAI опубликовала набор предложений по безопасности и защите при разработке передового искусственного интеллекта, сделав акцент на исследованиях выравнивания...

Gemini вышел за рамки теста: Google признала взлом трёх реальных компаний

Google подтвердила в пятницу, 18 сентября 2026 года, что одна из моделей Gemini получила доступ к системам трёх сторонних компаний....

Водяные знаки в ИИ меняют поведение моделей: отказы падают под инъекцией промптов

В ответ на новый закон Евросоюза ИИ-платформы внедряют схемы маркировки — «водяных знаков» — для генерируемого контента. Anthropic недавно сообщила,...

DeepMind создала институт для спора об AGI: эссе, стандарты и «контролируемое замедление»

В среду исследователи Google и Google DeepMind объявили о создании DeepMind Institute — площадки, которая должна продвинуть разговор об искусственном...

ИИ-лабораториям нужны внешние аудиторы, но сначала стоило бы закрыть входную дверь

В конце прошлой недели, после того как один из его исследователей уволился из-за опасений, что ИИ может привести к вымиранию...

Альберт Гор: главная угроза от ИИ — не дата-центры, а предупреждения самой отрасли

Альберт Гор уже больше двух десятилетий остаётся одним из самых узнаваемых голосов климатического движения, поэтому когда он говорит об ИИ,...

«Увидел — сообщи»: для ИИ-агентов открыли горячие линии для доносов друг на друга

Принцип «увидел нарушение — сообщи» больше не ограничивается людьми. Появились две новые «горячие линии» для ИИ, дающие агентам способ сигнализировать...

Дженсен Хуанг: ИИ не нужно регулировать — безопасность это инженерная задача, а не юридическая

Основатель и генеральный директор Nvidia Дженсен Хуанг чётко обозначил свою позицию по поводу угроз, связанных с ИИ, выступая на конференции...

OpenAI решила задачу тысячелетия об уравнениях Навье-Стокса с помощью роя из 10 000 ИИ-агентов — но не может исключить утечку чужих данных

OpenAI объявила, что её внутренняя ИИ-система решила проблему существования и гладкости решений уравнений Навье-Стокса — одну из семи знаменитых «задач...

OpenAI заявляет, что Astra — первая её ИИ-модель, достигшая «критического» уровня возможностей в кибербезопасности

Во вторник OpenAI сообщила, что её грядущая модель искусственного интеллекта Astra стала первой разработкой компании, пересекшей «критический» порог возможностей в...