🫡Трамп хочет "честный" ИИ. Проблема — такого не существует

Белый дом выпустил указ с говорящим названием "Предотвращение пробуждённого ИИ". Теперь все модели в федеральных структурах должны быть "правдивыми" и "идеологически нейтральными". Звучит здорово, но есть нюанс.

Ни одна существующая модель этим требованиям не соответствует. Вообще ни одна. ChatGPT лево-либеральный, Gemini мультикультурный, даже Grok от Маска умудряется врать про выборы. Все крупные разработчики используют RLHF, где модели перенимают взгляды тренеров. Это неизбежно.

Теперь подрядчики в панике ищут способы сделать своих ботов политкорректными в глазах новой администрации. Но как проверить соответствие "расплывчатым критериям" — загадка. Показательный пример: когда разработчики пытались "отучить" ИИ от прогрессивных взглядов, получился алгоритм, который назвал себя MechaHitler. Скорее всего, получится как всегда: кто лучше лоббирует, тот и "нейтральнее". А дебаты о правильной идеологии ИИ только начинаются.

#ИИ #США #политика

@SecLabNews