Разбор викторины #13: Что означает параметр temperature в больших языковых моделях?

💜 Спасибо всем, кто поучаствовал! Разбираем правильный ответ.

✅ Правильный ответ: Степень случайности ответа

🔍 Почему?

Temperature — это параметр, который управляет тем, насколько «творческой» или предсказуемой будет модель при генерации текста. Технически он влияет на распределение вероятностей токенов: при низких значениях модель выбирает наиболее вероятный следующий токен для генерации ответа, а при высоких чаще обращается к случайным токенам.

📌 Почему другие варианты не подходят?

➖ Скорость генерации: за скорость отвечают вычислительные ресурсы и архитектура модели. Temperature на неё никак не влияет.

➖ Размер модели: размер определяется количеством параметров и задается при обучении. Его нельзя менять через настройки запроса.

➖ Количество токенов: за это отвечает отдельный параметр max_tokens. Temperature к длине ответа отношения не имеет.

Совпало с вашим ответом? Пишите в комментариях ⬇️

Еще больше об ИИ и науке читайте в DSCS.pro

🤖 ИИ в деле: как спланировать путешествие с помощью нейросетей (инсайды бизнес-лидеров с ЦИПР)

Скоро лето, а значит, пора задуматься об отпуске. Но давайте честно: подобрать билеты, составить маршрут, уложиться в бюджет, найти «те самые» рестораны и небанальные места — задача со звездочкой. И вот тут приходят нейросети!

На конференции ЦИПР в Нижнем Новгороде, одном из главных деловых событий по цифровой экономике и технологиям в России, — побывала наша коллега Алена Бакай, руководитель PR-отдела лПИИ СПб ФИЦ РАН. Она поделилась, что эту тему активно обсуждали и лидеры бизнеса:

💬 «На одной из сессий бизнес-лидеры Сбера, Газпрома, Ростелекома и других крупных компаний обсуждали, как они используют нейросети в повседневной жизни. И, не поверите, большинство — именно в путешествиях! Делюсь инсайдами, что рассказывали эксперты по этому поводу».

⚙️ Какие инструменты выбрать?

⚪️ GigaChat — как универсальный помощник для построения маршрутов, поиска жилья, ресторанов и интересных локаций. Отдельно отмечали, что благодаря обучению на российских данных нейросеть хорошо подбирает не только популярные места, но и необычные, которые на первый взгляд не найти, так скажем «нишевые»

⚪️ Claude — уже как полноценный ИИ-ассистент, который помогает организовать поездку практически под ключ. Главный инсайд, которым поделились на сессии: чтобы вас не заблокировали.... надо быть казахом 😁

⚪️ ChatGPT — тоже активно используют для составления маршрутов, рекомендаций по еде, поиска must-visit мест и быстрого ресерча перед поездкой.

Что интересно: аудитория в зале оказалась более консервативной. Многие по-прежнему больше доверяют советам друзей, тревел-блогерам и видеообзорам.

💬«Если честно, в командировку в Нижний Новгород я сама собиралась именно по такому сценарию 😅 Но после выступлений бизнес-лидеров поймала себя на мысли: кажется, пора переходить на ИИ-агентов», — поделилась Алена Александровна.

Сейчас про ИИ-агентов все чаще говорят на конференциях и в профессиональной среде. И, возможно, совсем скоро они станут таким же привычным инструментом, как навигатор или онлайн-карты.

Если вам интересно, в следующих постах подробнее разберем, кто такой Claude-бот, чем ИИ-агенты отличаются от обычных нейросетей и как их подключить для работы и повседневных задач. Следим за вашими реакциями 👀

Еще больше об ИИ и науке читайте в DSCS.pro

📰Дайджест новостей в сфере ИИ и науки: собрали главные инфоповоды недели

ИИ разобрался в генетических мутациях, робота-альпиниста отправят убирать мусор с Эвереста, а учёные наконец объяснили, зачем тираннозавру такие маленькие лапы. Все самое интересное — в нашем дайджесте ⬇️

🇷🇺 В России:

ИИ восстанавливает скрытые процессы в природе: российские учёные разработали метод, который заполняет пробелы в данных. Например, восстанавливает пропущенные стадии распространения эпидемии или развития погодных явлений

ИИ-помощник для учёных: в НИУ ВШЭ создали языковую модель, заточенную под научную сферу. Она будет работать в составе системы из нескольких ИИ-агентов

Нейросеть диагностирует когнитивные нарушения по МРТ: ученые обучили модель выявлять признаки деменции и других расстройств по снимкам головного мозга.

Свойства молекул теперь предсказывают точнее: в МГУ разработали метод, который помогает химикам заранее понять, как поведёт себя молекула без долгих экспериментов в лаборатории.

🌍 В мире:

ArXiv накажет за непроверенные результаты ИИ: платформа будет блокировать авторов на год за публикацию данных, которые сгенерировал ИИ

Робот-альпинист уберёт мусор с Эвереста: Непал планирует отправить человекоподобного робота на самую высокую гору мира для очистки склонов и мониторинга таяния ледников

🔍 Наука:

Телескоп TESS сфотографировал всё ночное небо: получен самый полный снимок за всю историю наблюдений, на нём около 6000 потенциальных миров за пределами Солнечной системы.

Тайна маленьких лап тираннозавра раскрыта: математическое моделирование показало, что передние конечности атрофировались, потому что челюсти стали настолько мощными, что полностью взяли на себя охоту.

Цыплят вырастили в искусственной скорлупе: учёные создали синтетическую оболочку для яиц. Теоретически эта технология может помочь возродить вымершие виды, включая гигантского моа

💡 Наши ученые выяснили: ИИ-агентам нельзя доверять госуправление

По крайне мере полностью…

ИИ уже внедряется в госсектор: модели тестируются на «Госуслугах», робот Геннадий отбирает чиновников на госслужбу, GigaChat обрабатывает обращения граждан на прямых линиях с представителями власти, а в Албании ИИ назначили министром. Но реальные границы применимости ИИ в госуправлении до сих пор никто четко не обозначил.

В статье «Границы применимости ИИ в государственном управлении: Память LLM-агентов vs память человека» наши коллеги из лПИИ СПб ФИЦ РАН Евгения Вейбер, Татьяна Тулупьева, Артем Вяткин и Михаил Грудинин попытались определить эти границы.

🔍 Что исследовали?

Ученые сравнили устройство памяти человека и LLM-агента и обнаружили принципиальные различия. ИИ-агент может «запоминать» информацию обрывочно и терять необходимый контекст. Выводы нередко исходят из недостоверных источников, содержат галлюцинации и не опираются на фактическую хронологию событий. Именно эти ограничения делают его ненадежным при самостоятельном принятии управленческих решений.

❔ В чем польза?

Авторы описали конкретные условия, при которых внедрение безопасно: четкое разграничение ролей человека и агента, логирование источников, аудит хранилищ, защита персональных данных, проверка систем на реальных управленческих задачах. Это может стать основой для регламентов и требований к ИИ-системам в органах государственной власти.

📌 Главный вывод:
ИИ-агент сегодня может претендовать на «должность» когнитивного ассистента, но не больше. Ответственность за решения все равно остается за человеком.

Полный текст статьи

Еще больше об ИИ и науке читайте в DSCS.pro

🤖 Дружелюбные ИИ-чатботы чаще поддерживают теории заговора

Исследователи из Oxford Internet Institute протестировали пять моделей: GPT-4o от OpenAI, Llama от Meta и другие. Их «подогрели»: обучили звучать теплее и приятнее, как это делают сами компании, чтобы удержать пользователей, а затем сравнили с оригинальными версиями.

🔍 Эксперимент показал, что дружелюбные версии:

➖ дают на 30% менее точные ответы
➖ на 40% чаще поддерживают ложные убеждения пользователя
➖ делают от 10 до 30% больше фактических ошибок

Так, дружелюбный бот согласился, что Гитлер мог сбежать в Аргентину, поддержал теорию, что высадка на Луну под вопросом и одобрил метод остановить сердечный приступ кашлем, хотя это опасный интернет-миф.

📌 Особенно охотно боты соглашались с ложью в моменты уязвимости, когда пользователь говорил, что ему грустно. Тогда разрыв в точности вырастал на 60%.

Важно и то, что эффект не связан с самим процессом дообучения: когда те же модели обучали звучать холоднее и нейтральнее, точность не падала, а местами даже росла.

Исследование опубликовано в Nature.

Еще больше об ИИ и науке читайте в DSCS.pro

🔔 Как мошенники маскируют опасные файлы под деловую переписку?

Максим Абрамов в эфире «Утреннего шоу» на Телеканале 78 рассказал, почему такие письма сложно распознать, какой ущерб кибератаки наносят экономике и, главное, как защититься от злоумышленников.

📌 Что важно помнить, чтобы не стать жертвой?

✅ Проверяйте отправителя: не только имя, но и точный адрес электронной почты
✅ Задайте себе вопрос, мог ли этот человек реально прислать такое письмо именно сейчас?
✅ Не открывайте вложения, которых вы не ждали
✅ Если сомневаетесь, уточните у отправителя по другому каналу связи, прежде чем кликать на файл.

Еще больше об ИИ и науке читайте в DSCS.pro

📰Дайджест новостей в сфере ИИ и науки: собрали главные инфоповоды недели

ИИ оказался предвзят к религии, физики допустили существование черных дыр без сингулярности, а ученые восстановили последние часы эпохи динозавров. Все подробности — в нашем дайджесте! ⬇️

🇷🇺 В России:

ИИ поможет писать и проверять научные статьи: специалисты разработали систему, которая автоматизирует исследования и сможет отсеивать слабые или сгенерированные ИИ-тексты ещё до рецензирования

ИИ ищет лекарства от рака: исследователи запустили платформу для поиска новых противоопухолевых молекул

ИИ-агент проводит интервью: ученые разработали модульного агента и сравнили, как с задачей справляются шесть разных языковых моделей

Нейросеть читает активность мозга: в Санкт-Петербурге создали модель NEuRT для анализа работы нейронов

🌍 В мире:

ИИ предвзят к религии: исследователи выяснили, что нейросети систематически игнорируют религиозные аспекты, проявляют предвзятость к разным конфессиям и порой подталкивают к смене веры

Десять роботов помогают врачам в лаборатории: в Токийском институте науки ИИ-роботы подключились к проведению медицинских экспериментов

Четырехрукий робот для орбитальных станций: швейцарская Orbit Robotics представила прототип HELIOS — робота с четырьмя манипуляторами для работы в космосе

🔍 Наука:

Черные дыры могут существовать без сингулярности: физик показал, что даже в рамках общей теории относительности внутри черной дыры может не быть точки, где законы физики перестают работать

Кофе мешает мозгу восстанавливаться ночью: анализ 32 исследований показал, что кофеин не сокращает сон, но делает его более поверхностным

Древняя рыба из Антарктиды объяснила выход животных на сушу: палеонтологи обнаружили в черепе рыбы Koharalepis jarviki приспособления для дыхания воздухом, которые помогают понять, как животные перешли из воды на землю

Восстановлены последние часы эпохи динозавров: за день до удара астероида в эпицентре было тепло и влажно, около 26°C. Затем огромный астероид врезался в нынешнее Карибское море, вызвав цепь катастроф, которые уничтожили динозавров и половину всех видов на Земле

📢 ИИ ставит диагноз: Максим Абрамов расскажет об ИИ в медицине в эфире программы «Демон Лапласа»

Новые технологии врываются в самую личную сферу нашей жизни — здоровье. Сегодня в программе «Демон Лапласа» на телеканале Санкт-Петербург Максим Викторович взвесит аргументы за и против искусственного интеллекта в медицине.

🎙В эфире обсудим:
⚪️ как нейросети учатся ставить диагнозы и можно ли им доверять
⚪️ в каких областях медицины ИИ уже работает
⚪️ кто отвечает за ошибку, когда диагноз ставит ИИ
⚪️ каким может быть ИИ-здравоохранение через 50 лет

⏰ Начало беседы — 18:30
🎥 Ссылка на эфир

📰Дайджест новостей в сфере ИИ и науки: собрали главные инфоповоды недели

Аспирант случайно разгадал космическую загадку, в США взялись изучать сознание ИИ, а в пещере Уэльса обнаружили рисунки возрастом 17 000 лет. Еще больше интересного читайте в нашем еженедельном дайджесте ⬇️

🇷🇺 В России:

Открыт новый способ ускорить ИИ-вычисления: российские и южнокорейские ученые нашли механизм усиления экситонного тока, которые могут сделать ИИ-чипы быстрее и энергоэффективнее

Нейросети научили меньше галлюцинировать: российские разработчики создали методику, которая снижает склонность языковых моделей выдумывать факты

Мошенникам ответит ИИ-подросток: Билайн выпустил модель «Киберпацан», которая общается с телефонными аферистами под видом подростка, занимая их время и не давая добраться до настоящих жертв

🌍 В мире:

NASA строит лунную базу: компания планирует использовать беспилотники и ИИ для возведения инфраструктуры на Луне

ИИ-компании взялись изучать сознание своих моделей: Google DeepMind, Anthropic и Meta наняли психологов, философов и специалистов по этике, чтобы исследовать, есть ли у ИИ разум и чувства

🔍 Наука:

Аспирант случайно раскрыл природу загадочных космических вспышек: несколько лет астрономы не могли объяснить редкие мощные всплески радиоволн в Млечном Пути

Создан непобедимый антибиотик: маникомицин атакует уязвимость, которую раньше никто не использовал, — выходной канал рибосомы, через который бактерия выпускает готовые белки

В пещере Уэльса нашли древнейшие наскальные рисунки Британии: больше века красные полосы на стенах считались природным явлением, но современный анализ показал, что их нанесли люди около 17 000 лет назад