Хакеры взломали AI-чатбот для HR и получили возможность одобрять или отклонять кандидатов

Хакеры-исследователи обнаружили неприятную дыру в HR-чатботе Chattr.ai. Уязвимость позволяет получить доступ к информации компаний-пользователей этого сервиса и даже одобрять или отклонять соискателей, которые сохранены в базе чатбота.

Chattr позиционируется как “первое в мире автоматизированное решение для найма рабочей силы с почасовой оплатой, основанное на ИИ-помощнике” и помогает автоматизировать поиск сотрудников. Сервис популярен у ритейлеров и владельцев ресторанов быстрого питания — осматривая после взлома ставшие им доступными ресурсы, хакеры обнаружили среди клиентов владельцев точек Subway и KFC.

Взломщики наткнулись на уязвимость в Chattr в процессе поиска незащищенных логинов в Firebase — это облачный сервис баз данных от Google. В процессе сканирования они обнаружили, что в базе Firebase, используемой Chattr, можно создать новый аккаунт, обладающий правами как на чтение, так и на запись в базу данных любой информации. Так они смогли получить доступ к самым разным данным клиентов Chattr.ai — информации о самих компаниях, данных их сотрудников и соискателей, внутренней переписке в чатботе и так далее.

Но этим дело не ограничилось: далее хакеры обнаружили, что они также могут создавать аккаунты администратора в системе управления Chattr. И таким образом получают возможность одобрять или отклонять любых зарегистрированных в чатботе соискателей — и даже делать возврат средств, выплаченных сервису компаниями-клиентами.

Это напоминает историю с Nothing Chats — запущенным производителем смартфонов Nothing сервисом обмена сообщениями, который обещал дать пользователям Android доступ к Apple iMessage. Разработчики обещали тотальную приватность и безопасность. Однако из-за нескольких дыр — в том числе как раз из-за проблем с аутентификацией в базе данных Firebase — сервис позволял любому желающему читать переписку всех пользователей Nothing Chats в режиме реального времени.

🧬 Amazon выложил в открытый доступ 4 курса по ИИ. Бесплатно.

Введение в ИИ — база по ИИ. Длительность: 3 часа.

Машинное обучение — для новичков, которые не знают с чего начать. Длительность: 12 часов.

Low-code машинное обучение — ML для решения бизнес-задач. Длительность: 4 часа.

Создание лингвистических моделей — создавать и обучать модели. Длительность: 5 часов.

🧩 #AINews

ИИ для блокнотов Jupyter

Jupyter AI - новое дополнение для JupyterLab, позволяющее взаимодействовать с генеративными моделями ИИ.

Добавлена команда %%ai, запускающая ИИ функционал в блокноте.

Появился встроенный чат-интерфейс в JupyterLab для диалога с ИИ как со справочным помощником.

Расширение поддерживает множество генеративных моделей, включая известные AI21, Anthropic, AWS, Cohere, Hugging Face и OpenAI.

Для локальной работы поддерживается GPT4All.

Привычная среда для разработчиков эволюционирует.

#JupyterLab #GenerativeAI #GPT4All

Оптимизация прямых предпочтений (DPO): новый виток в обучении языковых моделей

В обучении LLM ключевую роль играет RLHF, включая человеческие предпочтения в оценку результатов и обучение с подкреплением. Однако RLHF сложен в использовании и зависит от гиперпараметров.
В статье Direct Preference Optimization: Your Language Model is Secretly a Reward Model авторы представляют альтернативный подход, называемый DPO.
DPO упрощает процесс, напрямую обучая LLM в соответствие с человеческими предпочтениями, что избавляет от необходимости работы с отдельной функцией вознаграждения и делает процесс более эффективным.
Этот подход не только упрощает процесс обучения LLM, но и обеспечивает более стабильные и легкие в вычислительном отношении результаты, минимизируя необходимость выборки из модели или настройки гиперпараметров.
Эксперименты показали, что DPO может оптимизировать модели так же эффективно, если не лучше, чем существующие методы RLHF, при этом упрощая реализацию и обучение.

#DPO #RLHF #LLMs

Copilot от Microsoft теперь доступен для любого бизнеса

Microsoft значительно расширила доступность своего AI-помощника Copilot.
Теперь без ограничений по количеству пользователей Copilot доступен для любых бизнесов.
Доступ предоставлен пользователям Office 365 E3 и E5, а также подписчикам Microsoft 365 Business Standard и Premium.
Стоимость подписки составляет $30 в месяц на пользователя.
AI Copilot, основанный на GPT-4 от OpenAI, умеет генерировать тексты, создавать презентации и помогать в Excel.
В Teams Copilot поможет с описаниями встреч и составлением писем.
Copilot предлагается в трёх версиях: бесплатной, Copilot Pro за $20 и Copilot for Microsoft 365 за $30 в месяц.
Открытие доступа ускорит интеграцию AI в повседневные рабочие задачи малого и среднего бизнеса.

AI в каждый офис.

https://youtu.be/8QXS-boCQZI?si=CtPfDSQWR5zvfvhZ

#Microsoft #Copilot #GPT4

Stability AI выпустила Stable Code 3B

Stable Code 3B - модель для разработчкиков, в части тестов превосходящая 7B модели от конкурентов.

Обучена на популярных языках: Python, JavaScript, Java, C++, Go и др. всего 18 языков.

3B размер позволяет запускать её на обычных конечных устройствах и внедрять мониторинг кода практически на роутерах и микроволновках.

#StabilityAI #StableCode3B #AI

AlphaGeometry от DeepMind бьет рекорды в олимпиадной геометрии

Система решила 25 из 30 задач международной олимпиады, обогнав предыдущий лучший результат в 10 задач.
Сочетание нейронной языковой модели и дедуктивного движка позволяет AlphaGeometry искать решения геометрических задач.
Используется синтетический тренировочный набор данных из миллиарда случайных геометрических диаграмм.
Языковая модель предсказывает, какие новые геометрические конструкции помогут движку сделать дальнейшие выводы.
Результаты работы системы — проверяемы и аккуратны, используются классические геометрические правила.
Производительность AlphaGeometry превышает бронзовый уровень Международной математической олимпиады 2000 и 2015 годов.
Цель — продвижение развития рассуждающих систем следующего поколения для общего искусственного интеллекта.

#DeepMind #AlphaGeometry #AI

Новый тип сертификации для моделей AI, соблюдающих авторские права

Сертификация Licensed Model выдаётся AI-компаниям, использующим модели обученные на лицензированных данных.

Основатель Fairly Trained, бывший VP Stability AI, вводит стандарты для защиты интеллектуальной собственности.

Компания уже сертифицировала девять проектов в сегментах изображений, музыки и голоса.

Вопрос теперь какие страны эту сертификацию поддержат. Или введут свою.

#FairlyTrained #Copyright

Революция в Google Search: Circle to Search

Google запускает Circle to Search и мультипоиск на базе ИИ для Android.
Искусственный интеллект улучшает понимание текста, аудио, изображений и видео.
Circle to Search позволяет искать информацию на экране, выделяя нужные элементы жестом.
Мультипоиск облегчает задачу поиска, совмещая вопросы с изображениями для получения результатов.

Обновление анонсировано на конференции Samsung Upnpacked, где была представлена новая линейка Galaxy S24.

#Google #ArtificialIntelligence #Search

Google AI расширяет возможности Samsung Galaxy S24

Samsung Galaxy S24 интегрирует новейшие функции Google AI.
Gemini модели от Google расширят возможности искусственного интеллекта на устройстве.
Gemini Pro взаимодействует с фирменными приложениями Samsung, обогащая их функционал.
Технология Generative Edit в галерее S24 преобразит редактирование фото - Объекты на фото можно удалять или передвигать одним нажатием.
Gemini Nano обеспечит обработку данных прямо на смартфоне - благодаря встроенному NPU.
Circle to Search упростит поиск информации на экране без отвлечения от текущих задач.
Google Messages предложит инструменты Magic Compose и Photomoji для создания текстов и эмодзи.
Android Auto представит резюме сообщений или групповых чатов и адаптивные ответы, делая вождение безопаснее.
Дизайн Android Auto будет гармонировать с интерфейсами Samsung и интегрирован в автомобиль.

#GoogleAI #SamsungGalaxyS24 #AndroidAuto

Запуск Samsung Galaxy S24

Стартовали продажи обновлённой линейки Samsung Galaxy S24.
Модели смартфонов: Galaxy S24, S24+ и S24 Ultra. Цены от $800 до $1,300.
Использование ИИ для обработки и улучшения изображений.
Функции AI: удаление объектов, перекомпоновка сцены, генеративные эффекты.
Генеративное AI заполнит части фона и добавит цифровой водяной знак на фото.
Instant Slow-mo создаёт плавное замедленное видео - ИИ создаёт промежуточные кадры.
Сотрудничество с Google для поиска выделенного текста: Circle for Search.
Улучшения ПО через модели Gemini Pro и Nano от Google, тестирование Gemini Ultra.
Galaxy S24 Ultra с ProVisual: высокое качество фото и коррекция размытости.
Камера S24 Ultra: 5-кратный зум, больше пикселей для съёмки в темноте, Super HDR.
Выбор памяти для S24 Ultra до 1 ТБ.
Дисплеи с адаптивной частотой от 1 до 120 Гц и защитой Gorilla Armor - 4х лучшая защита от царапин.
Корпус из титана.
Уже доступно в предзаказе, в продаже - в конце месяца.

#Samsung #GalaxyS24 #AI

Microsoft задает новые стандарты для AI PC: 16GB RAM и 40 TOPS

Microsoft определила минимальные характеристики для AI PC, - не менее 16GB оперативной памяти.

Компания TrendForce подтверждает требование минимум 16GB RAM для Windows AI PC.

Для получения статуса AI PC системы должны обладать вычислительной мощностью в 40 TOPS.

Текущие чипы Intel Meteor Lake не соответствуют требованиям в 40 TOPS, в отличие от ожидаемых Lunar Lake.

Ожидается, что серия AMD Ryzen 8000 и платформа Qualcomm Snapdragon X Elite превысят 40 TOPS.

Летом могут быть анонсированы минимальные характеристики для AI PC и Windows 12.

Готовимся к апгрейдам.

#Microsoft #AI #RAM

OpenAI и Аризонский университет объявили о партнерстве в использовании ChatGPT

OpenAI анонсировала первое сотрудничество с университетом.

Аризонский государственный университет (ASU) получит доступ к ChatGPT Enterprise для образования и исследований.

Университет планирует создать личных AI-преподавателей и AI-аватаров как творческих ассистентов.

Данные ASU, используемые в ChatGPT, останутся конфиденциальными и не будут использоваться OpenAI для обучения моделей.

OpenAI заинтересована в расширении применения ChatGPT в высшем образовании.

Такими темпами ИИ заменит учителей.

#OpenAI #ChatGPT #ASU

Интегрируем BigQuery & LangChain

LangChain обогащает модели ответами, используя структурированные данные из BigQuery.
Применения включают чат-боты, виртуальных помощников, генерацию кода и веб-приложения.
BigQuery - мощный инструмент для анализа массивов данных с высокой скоростью и гибкостью.
Интеграция с другими сервисами Google Cloud повышает эффективность обработки данных.
BigQuery Studio поддерживает выполнение SQL-запросов и работу с записными книжками.

Приведён пример анализа данных для выбора целевой аудитории в маркетинговых кампаниях.
Схема запроса предоставляет детальную информацию по структуре данных.
Созданная модель LLM формирует оптимизированные запросы для конкретных бизнес-задач.

BigQuery сам по себе очень мощный инструмент. В комбинации с LLM может дать действительно интересные результаты.

#LangChain #BigQuery #LLM

Runway представили новую фичу для Gen-2 — Multi Motion Brush

С ее помощью можно выделять и анимировать сразу несколько областей на изображении.

@ppprompt

ИИ - будущее предпринимательства

Сооснователь DeepMind Мустафа Сулейман предсказывает, что АИ сможет создавать и управлять бизнесом в течение ближайших пяти лет.

На Всемирном экономическом форуме в 2024 году Сулейман заявил, что АИ, прошедший экзамен, аналогичный тесту Тьюринга, будет оцениваться как предприниматель и изобретатель.

Повсеместное и недорогое распространение таких способностей АИ ожидается к концу десятилетия, что окажет заметное влияние на экономику.
Сулейман предвидит, что каждый получит персонального АИ-ассистента, способного повысить продуктивность и близко знать личную информацию пользователя.
Вместо определения 'интеллект' научное сообщество должно концентрироваться на реальных возможностях АИ, таких как взаимодействие с людьми, планирование и организация задач.

АИ становятся более доступными, что обещает переворот в будущем бизнеса и повседневной жизни.

#DeepMind #AI #Business

Google усиливает AI-присутствие в Великобритании

Google инвестирует $1 млрд в новый центр обработки данных в Великобритании.
Центр на 33 акрах обеспечит вычислительную мощность для AI и облачных услуг.
Ожидается поддержка инноваций в AI и надежности цифровых услуг для клиентов.
Планируется использование экологичных технологий, включая станцию восстановления тепла.
Инвестиция подчеркивает роль Великобритании как техноцентра и поддерживает локальные инновации.
Microsoft тоже строит в Британии огромный центр обработки данных за £2,5 млрд.
Тенденция усиливает статус страны как ведущего технологического хаба и научной державы.

Амбиции и деньги в игре: Британия превращается в AI-форпост.

#Google #AI #DataCenter

Андроиды Figure на службе в BMW: новая эра для робототехники

Компания Figure достигла рекордных сроков разработки роботов-андроидов для физической работы.
Роботы Figure 01 будут заниматься выполнением задач в производстве и логистике на заводе BMW в Spartanburg.
Достижение андроидами уровня автономии показано на примере приготовления кофе без участия человека.
Первый коммерческий проект Figure отличается от экспериментальных запусков аналогов.
ЦЕО Figure Бретт Адкок акцентирует на практическом применении роботов в реальном мире.
Глобальная цель — делать андроидов более эффективными, чем люди в определённых задачах.
Адкок объявил о планах открыто демонстрировать достижения и потенциал их разработок.

Теперь вопрос не в том, заменят ли роботы людей, а как быстро.

#Figure #Robotics #BMW

Ну за 3Д-моделлеров и 3Д-стоки.
Про китайцев из DeemosTech я уже писал в своем посте про Чатаватаров.

Это бывшая лаборатория в Шанхайском университете.
Я не знаю, сколько у них там RnD отделов, но они собирают довольно годные демки по разным вариантам применения ИИ в 3Д. Их Том Круз был довольно узнаваем.

А сейчас они собрали прям очень сладкий пайплайн из Блендора и text-to-3D генераций.
В Блендоре вы расставляете кубики и пишете для них промпты, а ИИ генерит 3Д-модельки на месте этих кубиков. Тут нет магии, просто удобство, делаете композицию на баундинг-боксах, а потом "нейрорендерите" это в 3Д, с последующим "настоящим" рендером (там даже PBR-материалы обещаны).
Фишка тут в том, что их модель Rodin Gen-1 (1,5 миллиарда параметров, если что), является самой большой из доступных нативных 3D-моделей и учитывает входящие размеры объектов.

Пример того, как можно из опен сорса и палок собирать ловкие прототипы будущих инструментов.

Просто представьте, вот есть у вас сцена, выделяете любой объект и кричите в монитор, "теперь это не тупая машинка, а винтажный опель 1947 года, цвет баклажан, тонированные стекла".
Хихикаете?
А ведь скоро можно будет "наговорить сцену".

Поройтесь у них в твитторе, там довольно много свежака про Чатаватары и другие проекты.
https://twitter.com/DeemosTech

P.S. Для тех, кто давно читает мои посты про 3Д, есть одна маленькая деталь: all of the assets Rodin generates "should be retopologized".
Чуда нет, тут генерация картинок по промптам с разных ракурсов, а потом генерация облаков точек на основе этих картинок.

Кстати, Rodin - это Родэн, тот который скульптор.