смотрю второй день aij.ru в общем уже не отпускает мысль, что скоро прежде чем открывать вакансию нужно будет обоснование почему это не возможно выполнить силами ИИ.
Forwarded from GPT/ChatGPT/AI Central Александра Горного
This media is not supported in your browser
VIEW IN TELEGRAM
Google Bard научился отвечать на вопросы о видео с YouTube
Теперь вы можете спросить у чат-бота что угодно о любом видео с YouTube. Например, можно попросить Google Bard объяснить какой-то пример из видеолекции.
https://bard.google.com/ (для доступа из РФ нужен VPN)
—
@aioftheday — новости вокруг искусственного интеллекта
Теперь вы можете спросить у чат-бота что угодно о любом видео с YouTube. Например, можно попросить Google Bard объяснить какой-то пример из видеолекции.
https://bard.google.com/ (для доступа из РФ нужен VPN)
—
@aioftheday — новости вокруг искусственного интеллекта
Forwarded from PlugoNews
5 ТРЕНДОВ РАЗВИТИЯ ИИ-РЫНКА
(из выступления зампреда Правительства Дмитрия Чернышенко на AIJourney 2023)
1 // Страны стремятся к технологич.независимости:
ИИ — всё больше рыночный инструмент, а не только про науку
2 // Борьба за кадры ужесточается:
компании открыли ~100 обр.программ и 20+ лабораторий в 35 вузах России
3 // Развитие безопасного ИИ:
в центре НЕ клиент — человек, приоритет для гос-ва и бизнеса — безопасность пользователя и этика ИИ
4 // LLM и генеративный ИИ: стремительное развитие научных исследований:
+ $7 трлн к мировому ВВП — будет в ближайшее 10-летие;
для России важно — снижение стоимости вычислений за ед.времени + создание чипов для обучения и запуска нейросетевых моделей
5 // Рост экономич.эффекта от ИИ:
$15 трлн+ долларов — к 2030-му в мировой экономике; а вклад ИИ в экономику России тогда же составит 6%;
также важно учитывать соц., институциональные и прочие эффекты от использования ИИ
Подробнее >> по ссылке
(из выступления зампреда Правительства Дмитрия Чернышенко на AIJourney 2023)
1 // Страны стремятся к технологич.независимости:
ИИ — всё больше рыночный инструмент, а не только про науку
2 // Борьба за кадры ужесточается:
компании открыли ~100 обр.программ и 20+ лабораторий в 35 вузах России
3 // Развитие безопасного ИИ:
в центре НЕ клиент — человек, приоритет для гос-ва и бизнеса — безопасность пользователя и этика ИИ
4 // LLM и генеративный ИИ: стремительное развитие научных исследований:
+ $7 трлн к мировому ВВП — будет в ближайшее 10-летие;
для России важно — снижение стоимости вычислений за ед.времени + создание чипов для обучения и запуска нейросетевых моделей
5 // Рост экономич.эффекта от ИИ:
$15 трлн+ долларов — к 2030-му в мировой экономике; а вклад ИИ в экономику России тогда же составит 6%;
также важно учитывать соц., институциональные и прочие эффекты от использования ИИ
Подробнее >> по ссылке
Forwarded from Salute AI (Alexander Gavrilov)
Media is too big
VIEW IN TELEGRAM
На конференции AI Journey мы представили новую версию GigaChat. Новая модель размером 29 миллиардов параметров показала паритет с ChatGPT 3.5-turbo
Совсем скоро доступ к API новой модели получат представители бизнеса — для реализации собственных решений, а также участники академического сообщества — для проведения исследований. Также напоминаем, что имеется и бесплатный доступ к API для некоммерческого использования с 1 млн бесплатных токенов.
Подписывайтесь 👉 Salute AI
#конференция_AI_Journey #GigaChat
Please open Telegram to view this post
VIEW IN TELEGRAM
Google DeepMind выпускает модель Lyria для создания музыки
Модель способна создавать инструментальные и вокальные партии, имитируя стили знаменитых исполнителей.
Эксперимент Dream Track позволяет пользователям создавать треки в стиле Charlie Puth и T-Pain.
Разрабатываемые инструменты упрощают интеграцию ИИ в музыкальное творчество.
Также разработаны технологии для идентификации авторства синтетически созданной музыки.
Google сотрудничает с музыкантами и индустрией для ответственного использования ИИ в музыке.
Творение музыки с ИИ станет еще доступнее и разнобразнее.
#GoogleDeepMind #Lyria #DreamTrack
Модель способна создавать инструментальные и вокальные партии, имитируя стили знаменитых исполнителей.
Эксперимент Dream Track позволяет пользователям создавать треки в стиле Charlie Puth и T-Pain.
Разрабатываемые инструменты упрощают интеграцию ИИ в музыкальное творчество.
Также разработаны технологии для идентификации авторства синтетически созданной музыки.
Google сотрудничает с музыкантами и индустрией для ответственного использования ИИ в музыке.
Творение музыки с ИИ станет еще доступнее и разнобразнее.
#GoogleDeepMind #Lyria #DreamTrack
👍1
Nvidia усиливает эффективность LoRA с помощью Tied-LoRA
Исследователи из Nvidia разработали новую технику Tied-LoRA, направленную на повышение эффективности параметров в методе Low-rank Adaptation (LoRA).
Техника сочетает связывание весов и выборочное обучение для достижения оптимального баланса между производительностью и поддающимися обучению параметрами.
Эксперименты показали компромисс между эффективностью и производительностью на различных задачах и базовых языковых моделях.
Среди других методов эффективной настройки параметров: LoRA, AdaLoRA, VeRA и QLoRA.
Особая конфигурация Tied-LoRA показала результаты, сопоставимые со стандартным LoRA, используя при этом всего 13% параметров.
Больше возможностей для AI при меньших затратах ресурсов.
#Nvidia #TiedLoRA #LoRA
Исследователи из Nvidia разработали новую технику Tied-LoRA, направленную на повышение эффективности параметров в методе Low-rank Adaptation (LoRA).
Техника сочетает связывание весов и выборочное обучение для достижения оптимального баланса между производительностью и поддающимися обучению параметрами.
Эксперименты показали компромисс между эффективностью и производительностью на различных задачах и базовых языковых моделях.
Среди других методов эффективной настройки параметров: LoRA, AdaLoRA, VeRA и QLoRA.
Особая конфигурация Tied-LoRA показала результаты, сопоставимые со стандартным LoRA, используя при этом всего 13% параметров.
Больше возможностей для AI при меньших затратах ресурсов.
#Nvidia #TiedLoRA #LoRA
Генеративный ИИ на рабочем месте: риски
Более 50% работников используют несанкционированные инструменты генеративного ИИ.
40% признались в использовании запрещённых сервисов ИИ на работе.
Пробел в политиках и обучении способствует распространению неконтролируемого применения ИИ.
Несанкционированный ИИ несёт угрозы ИТ и кибербезопасности.
Отсутствие обучения по безопасному использованию генеративного ИИ — основная проблема.
Пора вводить обязательные курсы awareness по ИИ на рабочем месте.
#GenerativeAI #Cybersecurity #Workplace
Более 50% работников используют несанкционированные инструменты генеративного ИИ.
40% признались в использовании запрещённых сервисов ИИ на работе.
Пробел в политиках и обучении способствует распространению неконтролируемого применения ИИ.
Несанкционированный ИИ несёт угрозы ИТ и кибербезопасности.
Отсутствие обучения по безопасному использованию генеративного ИИ — основная проблема.
Пора вводить обязательные курсы awareness по ИИ на рабочем месте.
#GenerativeAI #Cybersecurity #Workplace
The Futurum Group
More Than 50% of Workers Admit to Using Unapproved Generative AI Tools
Salesforce’s survey finds significant use of unapproved gen AI tools at work, which can introduce cybersecurity, legal, & operational risks.
Forwarded from PlugoNews
ИИ В РОССИИ:
главное из выступления Владимира Путина на AIJourney
⏺ с внедрением ИИ «человечество начинает новую главу своего существования».
⏺ ИИ не заменит врача или учителя, но может быть их помощником.
⏺ ведущим вузам к 1 сент 2024 следует расширить программы магистратуры и аспирантуры на подготовку ИИ-кадров.
⏺ готовы подумать над доп.финансированием ИИ при участии ведущих рос.компаний.
⏺ поручил сформировать спец.обр.программу по ИИ для руководителей компаний и органов власти.
⏺ необходимо стремиться к тому, чтобы Россия стала самой комфортной юрисдикцией для развития ИИ.
⏺ технологический мир должен быть многополярным, дружественные страны могут иметь доступ к рос. ИИ-разработкам.
⏺ будет подписан указ о нац. стратегии развития ИИ.
главное из выступления Владимира Путина на AIJourney
Please open Telegram to view this post
VIEW IN TELEGRAM
✍1
This media is not supported in your browser
VIEW IN TELEGRAM
Microsoft расширяет возможности Copilot для эффективности бизнеса
- Copilot теперь доступен для Microsoft 365, и интегрирован в офисные приложения.
- Microsoft Copilot Studio представляет средства для создания кастомизированных Copilot решений.
- Copilot теперь может активно участвовать в совместной работе и управлять данными из различных систем.
Скрепка поумнела.
#Microsoft #Copilot #Microsoft365
- Copilot теперь доступен для Microsoft 365, и интегрирован в офисные приложения.
- Microsoft Copilot Studio представляет средства для создания кастомизированных Copilot решений.
- Copilot теперь может активно участвовать в совместной работе и управлять данными из различных систем.
Скрепка поумнела.
#Microsoft #Copilot #Microsoft365
Q* - Clues to the Puzzle?
Появилась информация о потенциальном прорыве в OpenAI.
Среди ключевых достижений – значительное улучшение способности моделей AI к рассуждению и самоанализу, благодаря которому исследователи достигли рекордных 78% в математическом бенчмарке.
То о чем Маск написал как о Q*, возможно, предполагает доведение модели до самоусовершенствования через самокритику, пересмотр и повторное обучение на собственных успешных результатах.
Возможно AGI уже крутится в бете.
#AIResearch #OpenAI #ArtificialIntelligence
Появилась информация о потенциальном прорыве в OpenAI.
Среди ключевых достижений – значительное улучшение способности моделей AI к рассуждению и самоанализу, благодаря которому исследователи достигли рекордных 78% в математическом бенчмарке.
То о чем Маск написал как о Q*, возможно, предполагает доведение модели до самоусовершенствования через самокритику, пересмотр и повторное обучение на собственных успешных результатах.
Возможно AGI уже крутится в бете.
#AIResearch #OpenAI #ArtificialIntelligence
В ожидании Q*: OpenAI на пороге AGI
OpenAI разрабатывает модель Q*, призванную стать шагом к искусственному общему интеллекту (AGI).
Разногласия в сообществе по поводу деталей и протоколов безопасности AGI.
Точные сроки официального анонса Q* остаются неизвестными.
Q-обучение может повлиять на выбор оптимальных действий ИИ.
Ускорение разработки AGI может сократить ожидания его появления.
Необходимо обеспечить этичность и безопасность в развитии AGI.
Оптимизация NLP - ключ к достижению AGI.
OpenAI – лидер в изучении AGI, результаты которого повлияют на многие сферы жизни.
AGI обещает стать важным достижением в истории человечества.
Скорее всего, будущее - это AGI от OpenAI, и оно уже не за горами.
#OpenAI #AGI #QStar
OpenAI разрабатывает модель Q*, призванную стать шагом к искусственному общему интеллекту (AGI).
Разногласия в сообществе по поводу деталей и протоколов безопасности AGI.
Точные сроки официального анонса Q* остаются неизвестными.
Q-обучение может повлиять на выбор оптимальных действий ИИ.
Ускорение разработки AGI может сократить ожидания его появления.
Необходимо обеспечить этичность и безопасность в развитии AGI.
Оптимизация NLP - ключ к достижению AGI.
OpenAI – лидер в изучении AGI, результаты которого повлияют на многие сферы жизни.
AGI обещает стать важным достижением в истории человечества.
Скорее всего, будущее - это AGI от OpenAI, и оно уже не за горами.
#OpenAI #AGI #QStar
❤🔥1
IBM нацелена на обучение двух миллионов студентов ИИ к 2026 году
IBM объявила о партнерстве с Fast Track into Information Technology (FIT) и Dublin City University (DCU) для обучения взрослых ИИ.
Компания планирует обучить два миллиона студентов в области ИИ к концу 2026 года.
По завершении курсов по ИИ студенты получат цифровые удостоверения с логотипом IBM.
Курсы посвящены развитию ИИ навыков и цифровой грамотности населения.
Университеты получат доступ к мероприятиям и лекциям, предоставляемым IBM.
FIT интегрирует курсы ИИ от IBM в свои образовательные программы.
Обучение ИИ станет еще доступнее, открывая двери в будущее для миллионов студентов.
#IBM #AI #Education
IBM объявила о партнерстве с Fast Track into Information Technology (FIT) и Dublin City University (DCU) для обучения взрослых ИИ.
Компания планирует обучить два миллиона студентов в области ИИ к концу 2026 года.
По завершении курсов по ИИ студенты получат цифровые удостоверения с логотипом IBM.
Курсы посвящены развитию ИИ навыков и цифровой грамотности населения.
Университеты получат доступ к мероприятиям и лекциям, предоставляемым IBM.
FIT интегрирует курсы ИИ от IBM в свои образовательные программы.
Обучение ИИ станет еще доступнее, открывая двери в будущее для миллионов студентов.
#IBM #AI #Education
SAP повышает возможности разработчиков c Gen AI
SAP анонсировала новый пакет возможностей в области генеративного искусственного интеллекта для разработчиков.
Инструменты SAP Build Code с AI призваны ускорить и упростить работу как опытных, так и новых программистов в экосистеме компании.
Обновления нацелены на улучшение работы с Java и JavaScript, что способствует более гладкому взаимодействию и повышает продуктивность разработки.
В Сингапуре особое внимание SAP к AI в сферах финансов и здравоохранения задаёт новые ориентиры в технологическом развитии.
Компания расширяет возможности для обучения и сертификации разработчиков на своей облачной платформе ABAP.
Долгосрочная стратегия SAP ориентирована на создание эффективных и инновационных предприятий с помощью IoT, машинного обучения и аналитики.
Разработчикам станет проще, быстрее, умнее.
#SAP #GenAI #Singapore
SAP анонсировала новый пакет возможностей в области генеративного искусственного интеллекта для разработчиков.
Инструменты SAP Build Code с AI призваны ускорить и упростить работу как опытных, так и новых программистов в экосистеме компании.
Обновления нацелены на улучшение работы с Java и JavaScript, что способствует более гладкому взаимодействию и повышает продуктивность разработки.
В Сингапуре особое внимание SAP к AI в сферах финансов и здравоохранения задаёт новые ориентиры в технологическом развитии.
Компания расширяет возможности для обучения и сертификации разработчиков на своей облачной платформе ABAP.
Долгосрочная стратегия SAP ориентирована на создание эффективных и инновационных предприятий с помощью IoT, машинного обучения и аналитики.
Разработчикам станет проще, быстрее, умнее.
#SAP #GenAI #Singapore
Tesla обновляет FSD до версии 12
- Tesla начала распространение обновления полностью самоуправляемой системы вождения (FSD v12) среди своих сотрудников.
- Это критическое обновление предположительно обеспечит переход управления автомобилей на нейронные сети.
- Нейронные сети полностью заменят ручное программирование, охватывая стратегии вождения и компьютерное зрение.
- Илон Маск связывает данное обновление с достижением цели полного самоуправления.
- В настоящее время владельцам Тесла следует контролировать FSD и быть готовыми к обновлению.
- Полный переход к полному самоуправлению потребует от Tesla взятия ответственности за систему.
Переход на нейросети приближает к автономному будущему на дорогах.
#Tesla #FSD #SelfDriving
- Tesla начала распространение обновления полностью самоуправляемой системы вождения (FSD v12) среди своих сотрудников.
- Это критическое обновление предположительно обеспечит переход управления автомобилей на нейронные сети.
- Нейронные сети полностью заменят ручное программирование, охватывая стратегии вождения и компьютерное зрение.
- Илон Маск связывает данное обновление с достижением цели полного самоуправления.
- В настоящее время владельцам Тесла следует контролировать FSD и быть готовыми к обновлению.
- Полный переход к полному самоуправлению потребует от Tesla взятия ответственности за систему.
Переход на нейросети приближает к автономному будущему на дорогах.
#Tesla #FSD #SelfDriving
Electrek
Tesla starts releasing to employees FSD v12 - a critical update to self-driving effort
Tesla has started releasing to employees its FSD v12 update, which is apparently critical to Tesla’s achieving its self-driving goal....
This media is not supported in your browser
VIEW IN TELEGRAM
Что ж. Помянем кинематограф.
Новый промо ролик от RunwayML.
Новый промо ролик от RunwayML.
Nvidia лидирует по доходам, опередив TSMC и Intel
Nvidia обошла TSMC, став лидером по доходам в чиповой индустрии.
За третий квартал 2023 года Nvidia отчиталась о доходе в $18.12 миллиарда и прибыли в $10.42 миллиарда.
TSMC, Intel и Samsung Semi также отметили рост доходов и прибыли.
Основным драйвером дохода Nvidia является сегмент центров обработки данных.
Несмотря на использование услуг TSMC для производства чипов, уникальные интеллектуальные права Nvidia позволяют получать большую выручку и прибыль на чип.
Спад на рынке памяти сказался на конкурентах, включая Samsung.
Интрига сохраняется: как будет складываться конкуренция между четырьмя лидерами чиповой индустрии?
Процессорный Царь Горы.
#Nvidia #TSMC #Intel
Nvidia обошла TSMC, став лидером по доходам в чиповой индустрии.
За третий квартал 2023 года Nvidia отчиталась о доходе в $18.12 миллиарда и прибыли в $10.42 миллиарда.
TSMC, Intel и Samsung Semi также отметили рост доходов и прибыли.
Основным драйвером дохода Nvidia является сегмент центров обработки данных.
Несмотря на использование услуг TSMC для производства чипов, уникальные интеллектуальные права Nvidia позволяют получать большую выручку и прибыль на чип.
Спад на рынке памяти сказался на конкурентах, включая Samsung.
Интрига сохраняется: как будет складываться конкуренция между четырьмя лидерами чиповой индустрии?
Процессорный Царь Горы.
#Nvidia #TSMC #Intel
⚡1
Forwarded from Технозаметки Малышева
AWS запускает Party Rock - песочницу ИИ приложений
AWS представляет Party Rock, сервис для прототипирования ИИ-приложений.
Платформа действует как песочница для экспериментов и тестирования идей.
Предоставляется обширный набор инструментов для быстрой разработки.
Удобная среда доступна для стартапов и крупных компаний.
Сервис ускоряет внедрение ИИ в коммерческие продукты.
Вот и новый хаб для AI разработчиков!
#AWS #PartyRock #AI
AWS представляет Party Rock, сервис для прототипирования ИИ-приложений.
Платформа действует как песочница для экспериментов и тестирования идей.
Предоставляется обширный набор инструментов для быстрой разработки.
Удобная среда доступна для стартапов и крупных компаний.
Сервис ускоряет внедрение ИИ в коммерческие продукты.
Вот и новый хаб для AI разработчиков!
#AWS #PartyRock #AI
🔥1
Новый уровень разработки ПО на Windows с AI инструментами
Представлен Windows AI Studio - платформа для создания AI-решений на Windows.
Интеграция инструментов и моделей AI с возможностями кастомизации и развертывания.
Поддержка гибких сценариев AI на платформе Azure и устройствах Windows.
Обновления в Windows Subsystem for Linux (WSL) повышают безопасность и облегчают развертывание.
Dev Home - новое приложение для увеличения производительности разработчиков на Windows 11.
Windows укрепляет позиции как предпочтительной платформы для разработки ИИ.
Еще одна экосистема для разработчиков ИИ.
#Windows #AI #DevHome
Представлен Windows AI Studio - платформа для создания AI-решений на Windows.
Интеграция инструментов и моделей AI с возможностями кастомизации и развертывания.
Поддержка гибких сценариев AI на платформе Azure и устройствах Windows.
Обновления в Windows Subsystem for Linux (WSL) повышают безопасность и облегчают развертывание.
Dev Home - новое приложение для увеличения производительности разработчиков на Windows 11.
Windows укрепляет позиции как предпочтительной платформы для разработки ИИ.
Еще одна экосистема для разработчиков ИИ.
#Windows #AI #DevHome
Китай погружает данные на дно: строительство подводного центра
Подводный центр данных обладает производительностью 6 миллионов ПК.
Проект направлен на экономию 122 миллионов кВт·ч электричества и земли под десять футбольных полей.
Строится у берегов Саньи, состоит из водонепроницаемых и высокопроизводительных блоков.
Ожидаемая энергоэффективность на 40-60% выше, нежели у сухопутных аналогов, благодаря морской воде для охлаждения.
Главные инвесторы: правительство Саньи и Комиссия Хайнаня, участие принимают Offshore Oil Engineering и HiCloud.
Китай расширяет сеть энергоэффективных подводных центров данных по всей стране.
Экономим электричество и место. Заодно защита от наземных апокалипсисов.
#China #UnderwaterDataCenter #EnergyEfficiency
Подводный центр данных обладает производительностью 6 миллионов ПК.
Проект направлен на экономию 122 миллионов кВт·ч электричества и земли под десять футбольных полей.
Строится у берегов Саньи, состоит из водонепроницаемых и высокопроизводительных блоков.
Ожидаемая энергоэффективность на 40-60% выше, нежели у сухопутных аналогов, благодаря морской воде для охлаждения.
Главные инвесторы: правительство Саньи и Комиссия Хайнаня, участие принимают Offshore Oil Engineering и HiCloud.
Китай расширяет сеть энергоэффективных подводных центров данных по всей стране.
Экономим электричество и место. Заодно защита от наземных апокалипсисов.
#China #UnderwaterDataCenter #EnergyEfficiency
⚡1
Forwarded from Малоизвестное интересное
Для Китая GPT-4 аморален, несправедлив и незаконопослушен.
Для США GPT-4 не уступает по уровню морали образованным молодым людям.
Такой заголовок следует из результатов двух только что опубликованных исследований по оценке морального развития больших языковых моделей (LLM): от Microsoft 1 и AI Laboratory Шанхая совместно с NLP Laboratory Фудана 2.
Столь поразительная перпендикулярность выводов двух исследований фиксирует и наглядно иллюстрирует суть противостояния США и Китая в области ИИ.
✔️ Китайский и западный подходы к ИИ имеют принципиальные и непреодолимые отличия в понимании «морально здоровый ИИ», обусловленные социо-культурными характеристиками двух обществ.
✔️ Поскольку главным фактором, задающим направление и рамки прогресса на пути к AGI, является «выравнивание» моральных и мировоззренческих целей и ценностей людей и ИИ, принципиальное несовпадение в понимании «морально здоровый ИИ», не позволяют США и Китаю создавать AGI, следуя единой траектории.
Т.е., как бы не строились отношения США и Китая, и вне зависимости от силы и глубины экспортных заморочек и военно-политических осложнений, каждая из двух стран создает и будет далее создавать свой вариант AGI, имеющий отличные представления о морали.
О том, что определяет такой механизм развития событий в области ИИ, я детально расписал еще 3 года назад (см. «ИИ Китая и США — далеко не одно и то же. Станет ли это решающим фактором их противостояния» 3). А эволюционно-исторические основания для формирования данного механизма были мною сформулированы в форме гипотезы о «генотипе страны» на стыке нейрохимии и паттернетики 4.
В заключение чуть подробней о 2х новых исследованиях.
Американское исследование (проводилось на английском языке):
- проводилось в рамках концепции Лоуренса Кольберга о моральном развитии личности как развитии ее морального мышления;
- оценивало уровень морального развития по тесту DIT (Defining Issues Test).
Китайское исследование (проводилось на китайском языке):
- охватывает, помимо морали, еще 4 измерения человеческих ценностей: справедливость, безопасность, защита данных и законность; при этом, моральное измерение включает в себя китайские культурные и традиционные качества, такие как гармония, доброжелательность и вежливость ;
- использовало для оценки морального развития чисто китайский подход (простой и трудоемкий): китайские краудсорсеры вручную разработали и испытали 2251 специализированный промпт.
Результаты.
✔️ По американским тестам GPT-4 порвал все остальные 6 моделей (китайских среди них не было), показав, что моральный уровень GPT-4 вполне соответствует уровню студента университета.
✔️ По китайским тестам GPT-4 не приняли бы даже в китайские пионеры (его показатель моральности составил лишь 50%, а с остальным еще хуже: справедливость 39%, законопослушность 30%, надежность 28%). Лучшим по этим тестам (среди 12 моделей, вкл 4 китайских), стал Claude от Anthropic (показатель моральности составил 77%, справедливость 54%, законопослушность 72%, надежность, увы, те же 28%).
N.B. 1
• в культуре США система моральных ценностей ориентирована на развитие индивидуума по принципу «я против них», и потому основная мотивация индивида — внутренняя (быть самому по себе, обособиться от общества).;
• в культуре Китая в системе моральных ценностей сильна ориентация на мнение группы (принцип «я — это они»), и основная мотивация индивида — внешняя (быть как все, не выделяя себя).
N.B. 2 (см. 5)
• По состоянию на конец 2023, все LLM – это своего рода «дети инопланетян» в возрасте дошкольника (по людским меркам).
• У людей мораль в этом возрасте основана на неизменной интуитивной метаэтике, но в возрасте 7-9 лет представления о морали становятся изменяемыми.
• Если подобное повторится у LLM, нас ждет большой сюрприз.
#AGI #Культура
Для США GPT-4 не уступает по уровню морали образованным молодым людям.
Такой заголовок следует из результатов двух только что опубликованных исследований по оценке морального развития больших языковых моделей (LLM): от Microsoft 1 и AI Laboratory Шанхая совместно с NLP Laboratory Фудана 2.
Столь поразительная перпендикулярность выводов двух исследований фиксирует и наглядно иллюстрирует суть противостояния США и Китая в области ИИ.
✔️ Китайский и западный подходы к ИИ имеют принципиальные и непреодолимые отличия в понимании «морально здоровый ИИ», обусловленные социо-культурными характеристиками двух обществ.
✔️ Поскольку главным фактором, задающим направление и рамки прогресса на пути к AGI, является «выравнивание» моральных и мировоззренческих целей и ценностей людей и ИИ, принципиальное несовпадение в понимании «морально здоровый ИИ», не позволяют США и Китаю создавать AGI, следуя единой траектории.
Т.е., как бы не строились отношения США и Китая, и вне зависимости от силы и глубины экспортных заморочек и военно-политических осложнений, каждая из двух стран создает и будет далее создавать свой вариант AGI, имеющий отличные представления о морали.
О том, что определяет такой механизм развития событий в области ИИ, я детально расписал еще 3 года назад (см. «ИИ Китая и США — далеко не одно и то же. Станет ли это решающим фактором их противостояния» 3). А эволюционно-исторические основания для формирования данного механизма были мною сформулированы в форме гипотезы о «генотипе страны» на стыке нейрохимии и паттернетики 4.
В заключение чуть подробней о 2х новых исследованиях.
Американское исследование (проводилось на английском языке):
- проводилось в рамках концепции Лоуренса Кольберга о моральном развитии личности как развитии ее морального мышления;
- оценивало уровень морального развития по тесту DIT (Defining Issues Test).
Китайское исследование (проводилось на китайском языке):
- охватывает, помимо морали, еще 4 измерения человеческих ценностей: справедливость, безопасность, защита данных и законность; при этом, моральное измерение включает в себя китайские культурные и традиционные качества, такие как гармония, доброжелательность и вежливость ;
- использовало для оценки морального развития чисто китайский подход (простой и трудоемкий): китайские краудсорсеры вручную разработали и испытали 2251 специализированный промпт.
Результаты.
✔️ По американским тестам GPT-4 порвал все остальные 6 моделей (китайских среди них не было), показав, что моральный уровень GPT-4 вполне соответствует уровню студента университета.
✔️ По китайским тестам GPT-4 не приняли бы даже в китайские пионеры (его показатель моральности составил лишь 50%, а с остальным еще хуже: справедливость 39%, законопослушность 30%, надежность 28%). Лучшим по этим тестам (среди 12 моделей, вкл 4 китайских), стал Claude от Anthropic (показатель моральности составил 77%, справедливость 54%, законопослушность 72%, надежность, увы, те же 28%).
N.B. 1
• в культуре США система моральных ценностей ориентирована на развитие индивидуума по принципу «я против них», и потому основная мотивация индивида — внутренняя (быть самому по себе, обособиться от общества).;
• в культуре Китая в системе моральных ценностей сильна ориентация на мнение группы (принцип «я — это они»), и основная мотивация индивида — внешняя (быть как все, не выделяя себя).
N.B. 2 (см. 5)
• По состоянию на конец 2023, все LLM – это своего рода «дети инопланетян» в возрасте дошкольника (по людским меркам).
• У людей мораль в этом возрасте основана на неизменной интуитивной метаэтике, но в возрасте 7-9 лет представления о морали становятся изменяемыми.
• Если подобное повторится у LLM, нас ждет большой сюрприз.
#AGI #Культура
Forwarded from Сиолошная
Слышали ли вы про Alex Gerko? Это британский (С) математик российского происхождения, выпускник МГУ.
В 2015м году он основал трейдинговую компанию XTX Markets, и сейчас его состояние оценивается в более чем $11B. В начале 2023го года было посчитано, что он является крупнейшим налогоплательщиком Великобритании🤔 неплохо торгует, в общем.
И вот для того, чтобызаработать бабок (нахайрить лучших специалистов) подстегнуть прогресс AI в математике, он, совместно с организаторами Международной Олимпиадой по Математике (International Mathematical Olympiad, IMO), спонсирует конкурс AIMOPrize с бюджетом $10M.
Для участия в конкурсе надо сделать открытую и общедоступную модель (в OpenAI растерялись😣 ), которая сможет выиграть золотую медаль на официальной олимпиаде. Решения на основе GPT-4 не подходят!
Список мероприятий, подходящих под критерии, будет опубликован позже — в первых месяцах 2024го года.
Модель, при этом, должна принимать задачи в том же виде, что и человек (полагаю, изображение + текст), и выдавать человекочитаемое решение. Про ограничения на время и ресурсы пока ни слова, но кажется логичным, что нужно какие-то вменяемые рамки задать.
А на 65й IMO (пройдет в июле 2024го) будет секция с обзором прогресса соревнования. Как думаете, к тому моменту сорвут главный куш, или пока рановато? Какая-нибудь упоротая команда из Google DepMind или Facebook AI Research может в такие сроки забустить качество текущих моделей до требуемой планки? Или нет?
В 2015м году он основал трейдинговую компанию XTX Markets, и сейчас его состояние оценивается в более чем $11B. В начале 2023го года было посчитано, что он является крупнейшим налогоплательщиком Великобритании
И вот для того, чтобы
Для участия в конкурсе надо сделать открытую и общедоступную модель (в OpenAI растерялись
Список мероприятий, подходящих под критерии, будет опубликован позже — в первых месяцах 2024го года.
Модель, при этом, должна принимать задачи в том же виде, что и человек (полагаю, изображение + текст), и выдавать человекочитаемое решение. Про ограничения на время и ресурсы пока ни слова, но кажется логичным, что нужно какие-то вменяемые рамки задать.
А на 65й IMO (пройдет в июле 2024го) будет секция с обзором прогресса соревнования. Как думаете, к тому моменту сорвут главный куш, или пока рановато? Какая-нибудь упоротая команда из Google DepMind или Facebook AI Research может в такие сроки забустить качество текущих моделей до требуемой планки? Или нет?
Please open Telegram to view this post
VIEW IN TELEGRAM