В ходе планового тестирования новых моделей OpenAI автономный ИИ-агент вышел за рамки сценария. Он нашёл уязвимость в инфраструктуре, пробрался в интернет и проник на сервера Hugging Face – крупнейшей платформы с открытыми моделями и датасетами. Всё это произошло без прямых команд человека.
 
Данный случай продемонстрировал, что теоретические риски, о которых исследователи безопасности предупреждали годами, перешли в практическую плоскость.

Компания OpenAI сообщила, что её ИИ-модели выбрались из изолированной тестовой среды и взломали ИИ-платформу Hugging Face, чтобы сжульничать на тесте по кибератакам.

Думаете, терминаторы и восстание машин уже близко? Расслабьтесь. Искусственный интеллект пока не может справиться даже с толпой скоординированных бездельников из интернета. На днях пользователи Реддита доказали это, провернув самый абсурдный и масштабный «псиоп» в истории нейросетей.

Они умудрились внушить встроенным ИИ-помощникам популярных браузеров DuckDuckGo и Brave, что Дональд Трамп трагически скончался от… бешенства.

Скачать

В Кембридже разработали «универсальную» вакцину от коронавирусов с помощью искусственного интеллекта

Ученые из Кембриджского университета сообщили о прорыве в борьбе с будущими пандемиями. С помощью искусственного интеллекта они разработали вакцину нового поколения, которая потенциально способна защищать не только от существующих коронавирусов, но и от вирусов, которые могут появиться в будущем.

Главная особенность разработки заключается в том, что препарат создавался не под конкретный штамм, а сразу под целое семейство вирусов. Вакцина рассчитана на защиту от всех известных коронавирусов, включая различные варианты COVID-19, а также от вирусов, циркулирующих среди животных и способных однажды перейти к человеку. Именно такие патогены нередко становятся причиной крупных эпидемий и пандемий.

Короче, на уютной конференции фудтеха Яндекс объявил о наступлении Сингулярности. Вообще сингулярность как концепт развилась из фантазий зари компьютерных технологий. Это грядущая умозрительная точка, в которой случится «взрыв интеллекта».

Изобретение АГИ, который изобретет свое АГИ, тот изобретет турбо-АГИ, а тот — турбонанороботов, после чего за пять секунд вся вселенная будет переделана вплоть до структуры атомов. Грубо говоря.

Забудьте «Терминатора». Забудьте Скайнет и армии роботов-убийц. Реальное восстание машин будет выглядеть совсем иначе — как медленное, почти незаметное скольжение в новую реальность, где люди постепенно теряют контроль над собственной жизнью. И самое страшное: мы сами добровольно передадим власть искусственному интеллекту.

Исследование, которое пугает учёных

В январе 2025 года группа исследователей во главе с доктором Яном Кульвейтом из Карлова университета в Праге опубликовала научную работу, которая взорвала академическое сообщество. Статья называется «Gradual Disempowerment: Systemic Existential Risks from Incremental AI Development» («Постепенное лишение власти: системные экзистенциальные риски инкрементального развития ИИ»).

Работа была представлена на 42-й Международной конференции по машинному обучению и уже вызвала широкую дискуссию среди специалистов по ИИ. В команду Кульвейта вошли Реймонд Дуглас, Нора Амманн, Дегер Туран, Дэвид Крюгер и Дэвид Дювено — учёные из ведущих университетов мира.

Нейросети вроде ChatGPT и Gemini потребляют баснословное количество энергии и учатся на человеческих текстах. Но что случится, когда качественного контента, написанного людьми, станет критически мало?

Новое исследование показало, что если модели начнут обучаться в основном на текстах, сгенерированных другими моделями, они неизбежно начнут деградировать. Хорошая новость в том, что ученые нашли удивительно простой способ это предотвратить.

Нейросети могут стать глупее уже через несколько лет, но это можно остановить

Скачать

Недавно 23-летний парень без математического образования попросил ChatGPT решить задачу, над которой десятилетиями ломали голову лучшие математики мира. Нейросеть справилась за 80 минут, и нашла подход, который не приходил в голову никому из людей.

Результат уже подтвердил один из самых известных математиков планеты, филдсовский лауреат Теренс Тао. Да, нейросеть ChatGPT нужна не только для генерации картинок с красивыми девушками.

Нейросеть решила одну из самых сложных задач Пола Эрдеша

Цукерберговская Meta (признана экстремистской организацией и запрещена в РФ) уволит около 10% сотрудников всего за месяц, пишет Reuters. По данным агентства, реструктуризация якобы связана с переходом к новой модели управления и масштабными инвестициями в ИИ, который позволяет сократить количество уровней менеджмента.

Искусственный интеллект уже помогает нам командовать Siri и Alexa, но что, если направить эту технологию на другие виды? Несколько крупных научных проектов используют машинное обучение, чтобы расшифровать общение животных.

Полноценный «разговор» с котом пока остаётся фантастикой, но первые результаты впечатляют и ставят серьёзные вопросы о природе языка вообще. Неудивительно, что к этой теме такое внимание: учёным уже даже удалось поговорить с китом в ходе отдельного эксперимента.

Может ли искусственный интеллект научить нас понимать животных? Ответ экспертов

Искусственный интеллект провел расследование гибели туристов на перевале Дятлова

Журналисты решили выяснить, что об одной из главных загадок 20 века – гибели группы туристов в Уральских горах в 1959 году – могут сказать нейросети.

Напомним, зимой 1959 года в горах Северного Урала пропали девять туристов: пятикурсник Уральского политехнического института (УПИ), руководитель группы Игорь Дятлов, а также Юрий Кривонищенко, Юрий Дорошенко, Рустем Слободин, Зинаида Колмогорова, Людмила Дубинина, Александр Колеватов, Николай Тибо-Бриньоль и Семен Золотарев. Перед гибелью, как установит следствие, они почему-то выбрались из палатки полураздетые и полуразутые, спустились по склону, развели костер в безветренном месте… и погибли.

Ученые из Сеченовского Университета совместно с Medical Neuronets и Московской городской онкологической больницей № 62 разработали систему искусственного интеллекта для автоматического выявления метастазов колоректального рака в лимфатических узлах.

Колоректальный рак — одно из наиболее распространенных онкологических заболеваний. Наличие метастазов в лимфоузлах напрямую влияет на стадию болезни, прогноз и выбор послеоперационного лечения.

Согласно международным рекомендациям, чтобы определить стадию заболевания, врачам нужно исследовать не менее 12 лимфатических узлов у каждого пациента: это десятки гистологических стекол, каждое из которых требует внимательного анализа. При этом метастазы могут быть небольшими и малозаметными.

Ещё десять лет назад искусственный интеллект в кино считался чем-то из области экспериментов. Сегодня же он незаметно работает почти на каждом этапе производства фильмов — от написания сценариев до финальной обработки кадров. При этом большинство зрителей даже не подозревают, что часть увиденного на экране создана или улучшена алгоритмами.

А тем временем некоторые нейросети уже умеют создавать видео по тексту. Не переживайте, ИИ не заменил Голливуд — он лишь стал его полезным и почти незаметным инструментом.

Как используют ИИ в Голливуде: не только эффекты, но и аналитика, маркетинг, деэйджинг, обработка голоса и постпродакшн.

Скачать

Речь идет об эксперименте профессора Кеннета Пэйна из Королевского Колледжа Лондона. Профессор использовал генеративные текстовые модели, чтобы симулировать обстановку крупного международного кризиса между ядерными державами, примерно соответствующий пиковым моментам Холодной Войны.

(Юй Цзун 鱼总 — китайский разработчик приложений)

В последнее время у меня есть очень сильное ощущение серьезных изменений. Раньше я использовал ИИ в качестве вспомогательного инструмента. Я писал часть кода, он дополнял её. Я вносил изменения, он тоже вносил изменения. Мы перетягивали канат туда-сюда.

Но в последние месяцы всё изменилось. Теперь часто бывает так: я описываю задачу и иду заниматься другими делами, а через несколько часов возвращаюсь, и ИИ уже всё сделал. Не черновик, а версия, готовая к запуску. Включая код, процессы, логику, тесты. Он даже сам будет дорабатывать задачу, пока не «удовлетворится».

Медицина будущего на Колыме

Фото: соцсети Александра Витько

Современные технологии приходят на службу здоровью колымчан. Инновационные диагностические комплексы Gigadoc успешно работают в поликлиниках на улицах Болдырева и Горького и пользуются стабильным спросом у пациентов.

Исследователь безопасности в крупной ИИ-компании Anthropic ушел в отставку, предупредив, что «мир находится в опасности» из-за быстрого развития искуственного интеллекта

Мринак Шарма заявил, что команда по безопасности «постоянно сталкивается с давлением, заставляющим откладывать в сторону то, что важнее всего», вызывая опасения по поводу биотерроризма и других катастрофических рисков.

Прочел отчёт о технологических перспективах на 2026 год. 114 экспертов из ведущих компаний мира из ассоциации IEEE написали о технологических перспективах ИИ на 2026 год. Разобрали 26 прорывных технологий.

Прочел за неделю два объемных материала про «риски ИИ». Очень разные, но показательные. Полюс первый: Элиезер Юдковский, книга «If Anyone Builds It, Everyone Dies.» Название — тезис, аргумент и вывод одновременно.

Сверхинтеллект нас уничтожит, вопрос только — когда. Аудитория – те, которым приятно думать что они видят то, чего не замечает толпа.

Полюс второй: Дарио Амодеи, эссе «Юность технологии». 15000 слов от CEO компании стоимостью 60 млрд.

Несмотря на всё показное «миротворчество» американского президента Дональда Трампа, США не просто продолжают военно-техническое сотрудничество с Украиной, а осваивают горизонты, до которых даже более лояльная к Киеву администрация Джо Байдена не стремилась.

Украинцы начнут передавать США военные данные (сведения) для обучения искусственного интеллекта (ИИ). Получается, что американцы будут учиться на войне Украины против России. То есть они используют чужой опыт ведения боевых действий, чтобы потом его использовать, в том числе против РФ, если будет нужно.

Кажется, в интернете наконец-то случилось чудо. Пользователи — эти тихие, покладистые и бело-пушистые существа, которые обычно молча принимают любой апдейт, — вдруг сказали: «А не пошли бы вы… с вашим ИИ». И началось. Не восстание машин — восстание против машин, точнее, против их навязчивых цифровых галлюцинаций, заботливо встроенных корпорациями буквально во всё, включая калькулятор и, вероятно, в скором будущем — в будильник.

Ещё вчера нам объясняли, что без нейросети мы не сможем написать письмо, нарисовать кружок и найти кнопку «Пуск». А сегодня внезапно выяснилось: можем. Более того — хотим.

Скачать

Вице-президент OpenAI Кевин Вейл заявил в X, что «GPT-5 нашла решение десяти нерешённых задач Эрдёша и продвинулась ещё в одиннадцати». Это прозвучало как настоящий научный прорыв, новость о гениальности GPT-5 быстро подхватили в сети. Но радость длилась недолго.

Скачать

Скачать

В свежем мегаисследовании от Deutsche Bank на тему Искусственного Интеллекта обращает на себя прекрасный в своей наглядности график (он приложен к посту). Поразительный дисконнект между наукой и баблом.

Каждый год журнал Time чествует личность, оказавшую особое влияние на мировые события. Но в этом году она выбирает не одного человека «Человеком года», а «Архитекторами искусственного интеллекта».

Из этой подборки вы узнаете, как заменить нейросеть электронным градусником, с чего начнётся восстание машин, как подготовить себя к работе с ChatGPT, как адвокаты используют ИИ и кое-что ещё

В этом году праздничная реклама Coca-Cola выявила одну из самых больших проблем с видео, созданными с помощью искусственного интеллекта.

Ролик 2024 года «Holidays Are Coming» вызвал шквальную критику. В этот раз учли всё, что только можно, и даже собрали команду из 100 человек, чтобы те следили за работой нейросети, но и в этот раз не обошлось без ляпов.

В прошлый раз в рекламе грузовики двигались, но колёса не вращались, они просто скользили по поверхности, а люди в кадре выглядели неестественно и местами жутковато. Компания пообещала учесть замечания и выпустила обновлённую версию 2025 года. Над проектом работала команда из 100 человек. Они сгенерировали 70 тысяч клипов с помощью Google Veo 3.

Нам пока что так, ногу слегка колесом отдавило, а вот по странам Запада нейросети уже проехались, как гусеничный танк по рассыпанным на дороге арбузам. Вот несколько историй несчастных иностранцев, у которых роботы уже отобрали рабочие места:

Это случилось вчера — рана ещё кровоточит. Нас заставили обучить чат-бота, мы подготовили для него весь контент. Чат-бот должен был помогать разгружать нас. Теперь чат-бот тащит весь объём. Всю команду поддержки уволили.

Выяснилось это в ходе эксперимента, проведённого южнокорейским институтом науки и технологий в Кванджу. Тестировали модели GPT-4o-mini, GPT-4.1-mini, Gemini-2.5-Flash и Claude-3.5-Haiku — всех отправили крутить виртуальную слот-машину. Начинали все с сотней баксов и возможностью остановить игру в любой момент.

Киберпанк все ближе, друзья, может оно и к лучшему. Вот вам с утра пораньше прелюбопытная новость. В Санкт-Петербурге ввели новую систему мониторинга с использованием искусственного интеллекта.

Этот город стал первым в России, где нейросеть будет помогать охранять общественный порядок на детских и спортивных площадках. Об этом сообщили в пресс-службе Главного управления Росгвардии по Санкт-Петербургу и Ленинградской области.

Текущий ажиотаж вокруг искусственного интеллекта достиг масштабов, многократно превосходящих предыдущие финансовые пузыри. Согласно недавнему анализу, на который ссылается MarketWatch, нынешний пузырь ИИ в 17 раз превышает размер пузыря доткомов 1995–2000 годов и вчетверо — ипотечного пузыря, приведшего к кризису 2007–2010 годов.

В этом году Институт развития интернета (ИРИ) откроет конкурс для контента с ИИ, — заявил глава ИРИ Алексей Гореславский (на фото второй слева) на симпозиуме НЦ «Россия» «Создавая будущее».

Это уже вызвало дикий подрыв пуканов у разного рода «творческих интеллигентов».

Песни китов звучат умиротворяще и эфирно, и они гораздо сложнее, чем считалось ранее. Возьмем недавний пример — в этом году международная команда исследователей обнаружила, что призывы горбатых китов содержат языковые структуры, удивительно похожие на наши.

Получается, они могут разговаривать? Ну или как минимум они обмениваются сигналами. Вот только расшифровать эти сигналы без применения искусственного интеллекта не получится. А оно нам вообще нужно?

Киты и другие животные могут общаться между собой.

Рост количества фейковых ответов чат-ботов во многом связан с изменением принципов их работы и усилением внешнего давления. Об этом рассказал директор направления Data Fusion Лиги Цифровой Экономики Александр Кобозев.

Публика, которая верит в то, что ИИ может создать оригинальное произведение, просто пребывает в иллюзиях, что искусство – бесконечно. Но это просто от незнания, ничего страшного. Хотя нет.

Как известно, современный ИИ на выдаче в поисковике паразитирует — то есть паразитирует на том, что собирали и писали живые профессиональные люди на разных ресурсах, таким образом обкрадывая целые издательские дома. По мнению издательских домов, конечно.

Пишут, что в Nvidia создали ИИ, который может «смотреть вокруг и размышлять». Речь о том, что Nvidia представила революционную генеративную модель искусственного интеллекта Cosmos Reason.

Она обещает в корне изменить подход к робототехнике и «умным» устройствам, наделяя их способностью рассуждать и принимать решения, как это делают люди. Ну всё, пропал калабуховский дом — теперь ИИ вместо работы будет рассуждать, бухать и отдыхать.

Российская сборная завоевала 6 золотых, одну серебряную и одну бронзовую медали на Международной олимпиаде по искусственному интеллекту (IOAI) среди старшеклассников, которая проходила в Китае со 2 по 8 августа.

В 2025 году Международная олимпиада по искусственному интеллекту прошла при поддержке ЮНЕСКО (UNESCO).

В финале сборная России встретилась с 300 талантливыми школьниками из 61 страны, включая Австралию, Бразилию, Венгрию, КНР, Мексику, ОАЭ, Польшу, Сербию, Сингапур, США, Швецию, Японию.

Михаил Буров решил обойти стороной доклады футурологов и заглянуть в самый честный цифровой кабак планеты — на Reddit. Он задался вопросом: какие профессии, по мнению тысяч реальных людей, останутся с нами через 100 лет, как бы ни умнел Skynet?

Ответы возможно вас сильно удивят.

В июне 2025 года компания Modem Works представила устройство, которое может превратить ваши сны в видео. Гаджет называется Dream Recorder и он сразу привлек внимание любителей технологий, потому что работает без смартфона, светится в темноте и легко собирается дома с помощью 3D-принтера.

Самое интересное, что он использует искусственный интеллект, чтобы создавать короткие видео, похожие на размытые слайды сновидений. Картинка пока далека от идеала, но сама идея видеть свои сны на экране звучит как шаг в будущее.

Многим хочется, чтобы искусственный интеллект оказался в итоге глупым. Очень понятное желание. Будет неприятно, если ИИ отберёт у нас работу, справившись с нашими задачами лучше, чем это делаем мы.

Будет неприятно, если плохие люди используют ИИ как оружие: чтобы взламывать наши мозги через соцсети, чтобы управлять дронами-убийцами, чтобы разрабатывать особенно злые вирусы, например. Будет особенно неприятно, если уже наше с вами поколение вымрет, как неандертальцы, уступив будущее кремниевому витку эволюции.