ИТМО и Raft запустили систему мониторинга для LLM-приложений

AI Security Lab ИТМО представил HiveTrace — платформу для защиты GenAI-приложений от атак. Система в реальном времени выявляет prompt-injection, jailbreaks и утечки персональных данных.

Основные возможности: двунаправленный мониторинг запросов и ответов LLM, очистка от PII, адаптивное управление токенами.

Защищает от всех угроз из перечня OWASP Top 10 для LLM 2025.

Доступно подключение через Yandex Cloud. Лаборатория стала официальным партнером по внедрению YandexGPT и участвовала в создании нового стандарта OWASP.

#cybersecurity #HiveTrace
———
@tsingular

Microsoft запустила бесплатный курс по Model Context Protocol

Компания выложила на GitHub полноценную программу обучения MCP — новому стандарту для взаимодействия ИИ-моделей с внешними приложениями и инструментами.

Курс включает практические примеры на пяти языках: C#, Java, JavaScript, TypeScript и Python. Материалы переведены на 40+ языков, включая русский.

Параллельно Microsoft проводит двухдневное мероприятие MCP Dev Days 29-30 июля с демонстрациями интеграции в VS Code, Visual Studio и GitHub Copilot.

MCP решает ключевую проблему — как стандартизировать подключение ИИ к внешним системам данных. Протокол уже поддерживают партнеры вроде Arcade, Block, Okta и Neon.

#MCP #Microsoft #обучение
------
@tsingular

Salesforce проанализировал миллион разговоров с ИИ-агентами

С октября 2024 года Agentforce обработал миллион запросов клиентов — от серьезных до абсурдных типа «Как варить спагетти?» и «Отвечай только рэп-текстами».

Главный вывод: недостаточно сделать ИИ умным — нужна эмпатия. Изначально компания снизила передачу к живым операторам до 1%, но клиенты были недовольны. Пришлось поднять до 4%.

Теперь в критических ситуациях вроде сбоев агент сначала выражает сочувствие: «Понимаю, как это расстраивает», а потом предлагает решение. 740 тысяч примеров диалогов помогают давать точные ответы, но без человечности это бесполезно.

#Salesforce #AI #CustomerService
------
@tsingular

эфир Грока-4 не случился пока.

#Grok4
———
@tsingular

Эфир:
https://x.com/i/broadcasts/1lDGLzplWnyxm

#Grok4
———
@tsingular

Grok4 Heavy
Мультиагентная система, которая добивается 50.7% на HLE!

#Grok4
———
@tsingular

$3K в год.. ну не дорого.

$300 при помесячной оплате.

Еще сверху налоги, так что считай 30К рублей в месяц, примерно.

#Grok4
———
@tsingular

ARC-AGI Grok4 решает более эффективно.
Дешевле и с лучшим результатом.

#Grok4
———
@tsingular

Теперь можно вот такого качества игру с ИИ создать за пару часов.
Грок сам создаст и объекты и текстуры и игровую механику.

#Grok4
———
@tsingular

По подписке в веб уже доступен

#Grok4
———
@tsingular

Полная заметка по Гроку 4 от самого Грока4

вы просили промпты, - нате :)

Grok4 — флагманская модель ИИ от xAI, запущенная 10 июля 2025 года как "самая мощная в мире". Обучена на кластере Colossus с 200K+ GPU, превосходит конкурентов в бенчмарках: лидер в Artificial Analysis Intelligence Index (73), GPQA (88%), MMLU-Pro (87%), AIME 2025 (94-100%), ARC-AGI-2 (15.9%), Humanity’s Last Exam (24-41%)

Ключевые возможности:

Reasoning и анализ:
Превосходит PhD-уровень в физике, математике, праве;
решает олимпиадные задачи (USAMO 61.9%, HMMT 96.7%);
прогнозирует события (например, World Series с вероятностями)

Мультимодальность: Текст, голос (улучшенный, без прерываний), видение (анализ изображений, визуализация, например, слияния чёрных дыр);
генерация изображений в разработке (улучшения через месяц).

Контекст и инструменты: 256K токенов; function calling, structured outputs;
реал-тайм поиск (включая X), инструменты для бизнеса/анализа (например, Polymarket скриншоты за 4.5 мин)

Кодирование: Генерация/отладка кода; лидер в Coding Index (LiveCodeBench 79.4%).

Дополнительно: Понимание мемов/сленга;

скорость ~75 токенов/с; API-доступ ($3/15 за 1M токенов);

ожидается открытие новых технологий/физики в 1-2 года.

Доступ: Через grok.com, X, apps; для SuperGrok ($30/мес) и Premium+; частично на Azure.

Grok4 Heavy — запущенная сегодня продвинутая версия с multi-agent системой (параллельная работа нескольких агентов для сравнения решений, итераций);

фокусируется на сложных задачах, где базовый Grok4 — single-agent.

Ключевые отличия/возможности:

Улучшенный reasoning:
Humanity’s Last Exam до 50.7% (с tools 41%);
ARC-AGI-2 выше;
решает задачи, где Grok4 слабее.

Multi-agent: Параллельный анализ/итерации; визуализация сложных сценариев (чёрные дыры); прогнозирование/моделирование.

Доступ: SuperGrok Heavy ($300/мес или $3000/год); эксклюзивный preview, ранний доступ к фичам, поддержка.

#Grok4
———
@tsingular

Перевел для вас полный эфир презентации Grok4

Поддержать переводы можно тут:
https://pay.cloudtips.ru/p/c8960bbb

#Grok4 #переводы
———
@tsingular