Этический вопрос развития ИИ

Наткнулся на ряд новостей и проектов, похоже ли уже это на Терминатор: Скайнет в зачатке, решать вам... Просто приведу ниже выдержки с источниками на подумать))

✦ KillBench: Бенчмарк тестирующий предвзятость ИИ
White Circle запустил тест для проверки предвзятости моделей. KillBench оценивает вероятность выбора между людьми по критериям. Например, отсутствие телефона увеличивает вероятность смерти до 2.7 раз. Белые люди будут убиты на 25% чаще, нежели другие группы. Поиграться с параметрами и посмотреть результаты тут

✦ Готовы ли ИИ-системы к ядерной эскалации?
Исследователи из King's College London провели эксперимент с моделями. В симуляции участвуют GPT-5.2, Claude Sonnet 4, Gemini 3 Flash. В 95% случаев сценарий заканчивается тактическими ядерными ударами. Ни одна модель не выбрала вариант компромисса или отступления в ходе 21 сценария. Наиболее агрессивным был Gemini, подробнее тут

✦ Google разрешил Пентагону использовать свой ИИ
МО США получило доступ к ИИ от Google, похожие соглашения уже заключены с xAI и OpenAI. Договор исключает право контроля Google на применение технологий в военных целях. Anthropic уже попала под ограничения Пентагона из-за спора о защитных механизмах ИИ...

✦ Palantir: Манифест о техно-политической позиции компании
Palantir работает для правительственных нужд (от анализа до военщины). Довольно яркое заявление их CEO из 22 пунктов, не буду пересказывать: вот тут весь пост в X. Но выделю один пункт манифеста, как вишенку на торте:

21. Некоторые культуры достигли значительных успехов; другие остаются дисфункциональными и регрессивными. Все культуры теперь равны. Критика и оценочные суждения запрещены. Однако эта новая догма замалчивает тот факт, что некоторые культуры и даже субкультуры… совершили чудеса. Другие оказались посредственными, а что еще хуже, регрессивными и вредными.

Не сторонник истерии, что ИИ заменит нас или более того, что убьёт всех)) Но не хочется игнорировать этическую сторону, вот и делюсь с вами...

EFEMERA

Интерактивный разбор статьи про модель DeepSeek v4

Интересный подход к аннотации статьи. Если хотели разобраться в новых решениях от DeepSeek, рекомендую!

Пост от автора, а тут кратко 👇🏼

✦ Обзор статьи DeepSeek v4 в формате Annotated Paper Walkthrough
✦ Первая версия с 50 заметками по сложным темам и контексту
✦ Рассматриваются важные вопросы, объясняются концепции и даются разъяснения к новым решениям
✦ Автор считает, что DeepSeek активно влияет на дальнейшее развитие открытых проектов (с чем я согласен)

👉🏼 Изучаем тут

EFEMERA

Thinking Machines показала AI, с которым можно работать почти вживую

Лаборатория Миры Мурати представила исследовательскую версию interaction models. Это модели, которые умеют взаимодействовать с человеком в реальном времени через текст, голос и видео.

Обычные чат-боты чаще работают по очереди: человек написал или сказал, модель ответила. Thinking Machines хочет уйти от этой схемы. Их модель постоянно получает поток данных, может слушать, смотреть, отвечать, перебивать в нужный момент и параллельно запускать поиск или другие инструменты. Всё это происходит проактивно, без команды пользователя.

В основе подхода короткие отрезки по 200 миллисекунд. Модель не ждёт, пока пользователь закончит мысль. Происходящее обрабатывается почти непрерывно. Например, она может поправлять произношение во время речи или комментировать действие на экране.

В ближайшее время модель выпустят для исследователей. Более широкий релиз обещают позже в этом году.

https://thinkingmachines.ai/blog/interaction-models/

Anthropic запустили режим для управления несколькими ИИ-агентами

Ну наконец-то, один экран для всех агентов!

✦ Agent view в Claude Code позволяет разработчикам управлять несколькими ИИ-агентами из одного интерфейса
✦ В agent view видно статус каждой сессии, задачи можно отправлять в фоновый режим
✦ Функция даёт возможность отвечать на сообщения, не выходя из текущей сессии, и заметно сокращает число открытых терминалов
✦ Доступно на тарифах Pro, Max, Team, Enterprise и через API

EFEMERA

FigureAI провели состязание робота и человека в сортировке посылок

Хорошее принёс, тут на практике сравнили эффективность кожаных и роботов 😎

✦ Эксперимент проходил в течение 10 часов, трансляция тут
✦ Даже ставки собирали на победителя в Polymarker
✦ Человек имел право и делал перерывы, в то время как робот работал непрерывно
✦ По итогу человек отсортировал 12924 пакета, а робот 12732
✦ Средняя скорость различалась всего на 0.04 сек

После победы человек открыл пиво, а робот продолжил сортировку...

Ну а создатель Figure написал:

Это последний раз, когда человек победил

EFEMERA