MediaБританская ИИ-лаборатория DeepMind разработала большую языковую модель Gopher, содержащую 280 млрд параметров. По словам исследователей, чем крупнее модель, тем точнее она работает.Today we're releasing three new papers on large language models. This work offers a foundation for our future language research, especially in areas that will have a bearing on how models are evaluated and deployed: https://t.co/TV05K4zptv 1/ pic.twitter.com/SyWb8qIDk0— DeepMind (@DeepMind) December 8, 2021 Ученые с помощью собственного исследования подтвердили гипотезу, что от размера языковой модели зависит точность ее работы. В результате увеличения количества параметров производительность Gopher повысилась в наиболее распространенных эталонных тестах, таких как анализ настроений и обобщение.«Один из ключевых выводов статьи заключается в том, что прогресс и возможности больших языковых моделей все еще увеличиваются. Это не та область, которая вышла на плато», — сообщил исследователь DeepMind Джек Рэй.Однако ученые выявили ряд недостатков у данного подхода. По словам Рэя, существует множество вариантов, когда модель может выйти из строя:«Некоторые из этих способов связаны с тем, что модель просто недостаточно хорошо понимает то, что она читает».Рэй считает, что проблему непонимания контекста можно решить увеличением количества обучающих данных и масштабированием моделей.Он добавил, что есть и другие проблемы, такие как укрепление стереотипных предубеждений, распространение дезинформации или токсичная лексика. В DeepMind считают, что масштабирование не поможет устранить эти недостатки.«В этих случаях языковые модели потребуют “дополнительных процедур обучения”, таких как отзывы пользователей-людей», — отметил Рэй.О том, появится ли Gopher в открытом доступе неизвестно. В DeepMind намерены продолжить изучение языковых моделей, чтобы сделать приложения с искусственным интеллектом безопасными и прозрачными.Напомним, в октябре Microsoft и Nvidia представили языковую модель Megatron с 530 млрд параметров.В августе израильский стартап разработал доступную альтернативу GPT-3. Самая большая версия модели содержит 178 млрд параметров.В январе исследователи из команды Google Brain представили языковую модель с 1 трлн параметров.Подписывайтесь на новости ForkLog в Telegram: ForkLog AI — все новости из мира ИИ!
via ForkLog https://ift.tt/31END6p
via ForkLog https://ift.tt/31END6p
MediaИИ-лаборатория DeepMind представила инструмент AlphaCode, который самостоятельно умеет писать код. По словам разработчиков, алгоритм способен конкурировать с программистами среднего уровня.Introducing #AlphaCode: a system that can compete at average human level in competitive coding competitions like @codeforces. An exciting leap in AI problem-solving capabilities, combining many advances in machine learning!
Read more: https://t.co/yaXfMWtEfe 1/ pic.twitter.com/Mvhc6Jm7E0— DeepMind (@DeepMind) February 2, 2022 Эффективность искусственного интеллекта проверили на платформе Codeforces, которая ежедневно предлагает задачи для программистов, требующие критического мышления, логики и знаний алгоритмов.Разработчики загрузили в AlphaCode 10 заданий на английском языке. Эти же задачи решали 5000 пользователей Codeforces.Инструмент сгенерировал несколько ответов на каждое задание и самостоятельно проверил работоспособность кода. В результате ответы AlphaCode позволили бы ему войти в 54% лучших участников соревнования, а также в 28% лучших пользователей Codeforces за последние шесть месяцев.В DeepMind отметили, что текущий набор навыков AlphaCode применим только в соревнованиях. Однако его возможности открывают дверь для создания будущих инструментов, которые однажды сделают программирование полностью автоматизированным.По словам основателя Codeforces Майка Мирзаянова, AlphaCode превзошел все его ожидания.«Я был настроен скептически, потому что даже в простых соревновательных задачах часто требуется не только реализовать алгоритм, но и — а это самое сложное — изобрести его», — сказал он.Напомним, в мае 2021 года Microsoft представила инструмент для автозаполнения кода на основе языковой модели GPT-3.В июне GitHub выпустил ИИ-ассистента Copilot, помогающего программистам писать код. Спустя четыре месяца после релиза компания заявила, что 30% нового кода на платформе создано с помощью инструмента.В августе ИИ-лаборатория OpenAI представила алгоритм Codex, который переводит естественный язык в код.Подписывайтесь на новости ForkLog в Telegram: ForkLog AI — все новости из мира ИИ!
via ForkLog https://ift.tt/NVoTp3qna
Read more: https://t.co/yaXfMWtEfe 1/ pic.twitter.com/Mvhc6Jm7E0— DeepMind (@DeepMind) February 2, 2022 Эффективность искусственного интеллекта проверили на платформе Codeforces, которая ежедневно предлагает задачи для программистов, требующие критического мышления, логики и знаний алгоритмов.Разработчики загрузили в AlphaCode 10 заданий на английском языке. Эти же задачи решали 5000 пользователей Codeforces.Инструмент сгенерировал несколько ответов на каждое задание и самостоятельно проверил работоспособность кода. В результате ответы AlphaCode позволили бы ему войти в 54% лучших участников соревнования, а также в 28% лучших пользователей Codeforces за последние шесть месяцев.В DeepMind отметили, что текущий набор навыков AlphaCode применим только в соревнованиях. Однако его возможности открывают дверь для создания будущих инструментов, которые однажды сделают программирование полностью автоматизированным.По словам основателя Codeforces Майка Мирзаянова, AlphaCode превзошел все его ожидания.«Я был настроен скептически, потому что даже в простых соревновательных задачах часто требуется не только реализовать алгоритм, но и — а это самое сложное — изобрести его», — сказал он.Напомним, в мае 2021 года Microsoft представила инструмент для автозаполнения кода на основе языковой модели GPT-3.В июне GitHub выпустил ИИ-ассистента Copilot, помогающего программистам писать код. Спустя четыре месяца после релиза компания заявила, что 30% нового кода на платформе создано с помощью инструмента.В августе ИИ-лаборатория OpenAI представила алгоритм Codex, который переводит естественный язык в код.Подписывайтесь на новости ForkLog в Telegram: ForkLog AI — все новости из мира ИИ!
via ForkLog https://ift.tt/NVoTp3qna
MediaОрганизация OpenAI запустила программу Converge с целью предоставить ИИ-стартапам на ранних стадиях развития капитал, а также доступ к своим технологиям и ресурсам.По данным компании, проект профинансирует поддерживаемый Microsoft и другими партнерами фонд OpenAI Startup Fund объемом $100 млн.Выбранные в программу Converge основатели десяти или менее стартапов получат по $1 млн каждый. Также им предоставят пятинедельный допуск к рабочим часам, семинарам и мероприятиям с участием сотрудников OpenAI и ранний доступ к алгоритмам и «программным инструментам, адаптированным для ИИ-компаний».«Мы рады встретиться с группами на всех этапах посевной стадии: от основателей-одиночек, имеющих только идею, до команд соучредителей, уже работающих над продуктом», — говорится в блоге компании.По данным ИИ-лаборатории, участвовать в программе могут представители всех слоев общества и дисциплин с любым уровнем опыта работы с технологиями искусственного интеллекта или без него.Крайний срок подачи заявок — 25 ноября. В OpenAI также отметили, что даже после этой даты продолжат оценивать желающих для будущих программ.В 2021 году, во время объявления о создании OpenAI Startup Fund, компания пообещала получателям траншей предоставить доступ к ресурсам Azure от Microsoft. Однако пока неясно, предусмотрены ли эти преимущества для участников Converge.Напомним, в октябре выяснилось, что Microsoft планирует увеличить инвестиции в ИИ-лабораторию OpenAI.В том же месяце стало известно, что Google ведет переговоры о вложении около $200 млн в ИИ-стартап Cohere, разрабатывающий решения в области обработки естественной речи.Подписывайтесь на новости ForkLog в Telegram: ForkLog AI — все новости из мира ИИ!
via ForkLog https://ift.tt/rKBusYC
via ForkLog https://ift.tt/rKBusYC
Microsoft-minКорпорация Microsoft рассматривает возможность инвестирования $10 млрд в компанию OpenAI. На сегодня стартап оценивают в $29 млрд, пишет Semafor.По данным СМИ, Microsoft будет получать 75% прибыли ИИ-компании до тех пор, пока не вернет вложенные деньги. После возмещения средств корпорация получит 49% акций OpenAI. Другие инвесторы разделят остальные 49%, в то время как некоммерческий материнский бизнес сохранит оставшиеся 2%.Существует также ограничение на получение прибыли для каждой группы держателей акций. Однако пределы маржи неизвестны.Условия сделки и сумма инвестиций могут измениться по мере продолжения переговоров.OpenAI является одним из лидером в области генеративного ИИ. В 2022 году стартап выпустил два популярных приложения: DALL-E 2 и ChatGPT.Первый Microsoft уже включила в некоторые из своих продуктов, в том числе приложение для графического дизайна Designer. Также техгигант заинтересован в использовании ChatGPT в приложениях Office и поисковой системе Bing. Обе компании на протяжении нескольких лет поддерживают тесные рабочие отношения. В 2020 году Microsoft объявила о заключении сделки со стартапом на эксклюзивное лицензирование своих моделей GPT-3. Позже это привело к созданию ИИ-помощника для написания кода GitHub Copilot.OpenAI является крупным клиентом платформы облачных вычислений Azure и имеет доступ к специальному кластеру суперкомпьютеров с искусственным интеллектом с «более чем 285 000 ядер ЦП и 10 000 графических процессоров».Напомним, в декабре 2022 года ИИ-стартап заявил, что ожидает роста выручки до $1 млрд в ближайшие два года.В октябре СМИ сообщили о планах техгиганта увеличить инвестиции в OpenAI.Подписывайтесь на новости ForkLog в Telegram: ForkLog AI — все новости из мира ИИ!
via ForkLog https://ift.tt/7U8T1ke
via ForkLog https://ift.tt/7U8T1ke
<a href="https://forklog.com/wp-content/uploads/Cybersec_Digest_3.webp">Cybersec_Digest_3</a>Мы собрали наиболее важные новости из мира кибербезопасности за неделю.Вымогатели Medusa заявили о «краже» исходного кода Bing и Cortana.Бывшие участники Conti и FIN7 разработали новый вредонос Domino.Шифровальщик LockBit нацелился на компьютеры Mac.Android-малварь Goldoson из Google Play скачали 100 млн раз.<strong>Вымогатели Medusa заявили о «краже» исходного кода Bing и Cortana</strong>Члены хакерской группировки Medusa утверждают, что похитили внутренние материалы компании Microsoft, включая исходные коды Bing, Bing Maps и Cortana. Злоумышленники уже опубликовали около 12 ГБ данных. По словам исследователей безопасности, утечка содержит цифровые подписи продуктов компании, многие их которых актуальны.<a href="https://twitter.com/hashtag/Medusa?src=hash&ref_src=twsrc%5Etfw">#Medusa</a> is sharing what is claimed to be "source codes of the following Bing products, Bing Maps and Cortana." The leak is ~12GB and likely part of the ~37GB leaked by Lapsus in 2022. <a href="https://twitter.com/hashtag/Microsoft?src=hash&ref_src=twsrc%5Etfw">#Microsoft</a> 1/2 <a href="https://t.co/VpofBJGEcM">pic.twitter.com/VpofBJGEcM</a>— Brett Callow (@BrettCallow) <a href="https://twitter.com/BrettCallow/status/1648752922707230721?ref_src=twsrc%5Etfw">April 19, 2023</a> При этом они предполагают, что информация изначально была похищена еще в 2022 году в результате атаки хакеров Lapsus$. Тогда Microsoft подтвердила взлом систем, но утверждала, что утечка не затронула «ни клиентский код, ни какие-либо данные».Специалисты <a href="https://www.theregister.com/2023/04/19/medusa_microsoft_data_dump/">обратили внимание</a> на схожие методики двух группировок, тем не менее их связь пока не подтверждена.Представители Microsoft не комментировали ситуацию. <strong>Бывшие участники Conti и FIN7 разработали новый вредонос Domino</strong>Эксперты IBM Security Intelligence <a href="https://securityintelligence.com/posts/ex-conti-fin7-actors-collaborate-new-domino-backdoor/">сообщили</a>, что бывшие участники группировки вымогателей Conti объединились с представителями FIN7 для распространения новой малвари Domino.Вредонос может красть пароли, документы, учетные данные браузеров, приложений и криптовалютных кошельков. Он также способен шифровать файлы в зараженной системе.<a href="https://forklog.com/wp-content/uploads/Zz0yMDg4ZGMyMmRhZTMxMWVkODQ2MDQ2OGUzYjllYTQ5ZQ.webp">Zz0yMDg4ZGMyMmRhZTMxMWVkODQ2MDQ2OGUzYjllYTQ5ZQ</a>Данные: IBM Security Intelligence.Domino умеет отключать функции безопасности, такие как Защитник Windows и UAC. С помощью этой малвари хакеры атакуют туристические компании, гостиницы и рестораны. <strong>Шифровальщик LockBit нацелился на компьютеры Mac</strong>Группировка вымогателей LockBit разработала шифровальщики, предназначенные для macOS. На это обратили внимание специалисты MalwareHunterTeam."locker_Apple_M1_64": 3e4bbd21756ae30c24ff7d6942656be024139f8180b7bddd4e5c62a9dfbd8c79
As much as I can tell, this is the first Apple's Mac devices targeting build of LockBit ransomware sample seen...
Also is this a first for the "big name" gangs?
🤔<a href="https://twitter.com/patrickwardle?ref_src=twsrc%5Etfw">@patrickwardle</a>
cc <a href="https://twitter.com/cyb3rops?ref_src=twsrc%5Etfw">@cyb3rops</a> <a href="https://t.co/SMuN3Rmodl">pic.twitter.com/SMuN3Rmodl</a>— MalwareHunterTeam (@malwrhunterteam) <a href="https://twitter.com/malwrhunterteam/status/1647384505550876675?ref_src=twsrc%5Etfw">April 15, 2023</a> На сайте Virus Total они обнаружили загруженный еще в декабре 2022 года ZIP-архив с доступными модификациями шифровальщика. Он включал сборку locker_Apple_M1_64, нацеленную на новые Mac на базе Apple Silicon, а также вредоносы для микропроцессоров PowerPC, которые используют старые Mac.Вместе с тем ряд экспертов предположил, что текущие версии шифровальщиков не готовы к развертыванию в реальных атаках и, вероятно, используются для тестирования. Worth stressing, as LockBit macOS sample though…
As much as I can tell, this is the first Apple's Mac devices targeting build of LockBit ransomware sample seen...
Also is this a first for the "big name" gangs?
🤔<a href="https://twitter.com/patrickwardle?ref_src=twsrc%5Etfw">@patrickwardle</a>
cc <a href="https://twitter.com/cyb3rops?ref_src=twsrc%5Etfw">@cyb3rops</a> <a href="https://t.co/SMuN3Rmodl">pic.twitter.com/SMuN3Rmodl</a>— MalwareHunterTeam (@malwrhunterteam) <a href="https://twitter.com/malwrhunterteam/status/1647384505550876675?ref_src=twsrc%5Etfw">April 15, 2023</a> На сайте Virus Total они обнаружили загруженный еще в декабре 2022 года ZIP-архив с доступными модификациями шифровальщика. Он включал сборку locker_Apple_M1_64, нацеленную на новые Mac на базе Apple Silicon, а также вредоносы для микропроцессоров PowerPC, которые используют старые Mac.Вместе с тем ряд экспертов предположил, что текущие версии шифровальщиков не готовы к развертыванию в реальных атаках и, вероятно, используются для тестирования. Worth stressing, as LockBit macOS sample though…