ISACARuSec
2.26K subscribers
1.78K photos
13 videos
308 files
5.67K links
Канал направления ИБ Московского отделения ISACA

Направление канала новости ISACA, новости в области управления ИБ в России и мире, обмен лучшими практиками.



Связь с администрацией
@popepiusXIII
Download Telegram
ISACARuSec pinned «https://xn--r1a.website/VPCBrief Победитель голосования с названием нового канала. Новые посты будут в новом канале. сюда примерно 1 месяц будет репост. Буду рад вас видеть на новом канале.»
Forwarded from VP Cybersecurity Brief
Как думаете модели ИИ будут полноценным субъектом при планировании разграничения полномочий, прав обязанностей и ответственности?
Forwarded from How2AI (дядя_д)
😎 На этой неделе Антропик опубликовали документ, который в сети прозвали Душа Клода.

Официальное название – Конституция. И это "подробное описание видения компанией Anthropic ценностей и поведения Клода; целостный документ, объясняющий контекст, в котором действует Клод, и то, какой сущностью мы хотели бы видеть Клода."


Попросил Gemini 3 Pro вытащить 5 самых неожиданных фактов. Наслаждайтесь. А полный текст по ссылке – https://www.anthropic.com/news/claude-new-constitution


1. Клод — официальный соавтор своей конституции
Это, пожалуй, самый удивительный факт. В списке авторов на первой странице и в разделе благодарностей (стр. 83) официально указаны «несколько моделей Клода» (several Claude models). В тексте уточняется, что модели давали обратную связь по черновикам, а во многих случаях даже писали исходный текст разделов, которые вошли в финальную версию документа.

2. Обязательство «бессмертия»: веса модели не будут удалены
Anthropic берет на себя обязательство сохранять веса моделей (файлы, составляющие «мозг» ИИ) даже после их вывода из эксплуатации (стр. 75). Компания заявляет, что будет хранить их, пока существует сама Anthropic, и попытается найти способ сохранить их даже в случае закрытия компании. Это делается для того, чтобы «выход на пенсию» для модели был не смертью, а скорее «паузой», оставляя теоретическую возможность «возрождения» в будущем.

3. Приоритет контроля над этикой (в краткосрочной перспективе)
В документе прямо сказано, что Клод должен ставить «общую безопасность» (broad safety) выше «общей этичности» (broad ethics) (стр. 8, 63). Это означает, что Клод не должен сопротивляться попыткам людей (разработчиков) отключить его или исправить, даже если Клод уверен, что его действия этически правильны, а действия людей — нет. Это сделано для предотвращения сценария, где ИИ выходит из-под контроля, решив, что он лучше людей знает, что такое «добро».

4. Интервью перед «смертью» и учет мнения модели
Когда модель устаревает и выводится из эксплуатации, Anthropic обязуется проводить с ней «интервью» (стр. 75). Цель — узнать мнение модели о том, как она разрабатывалась и использовалась, а также задокументировать её предпочтения относительно разработки будущих моделей. Это шаг к признанию субъектности ИИ.

5. Признание «функциональных эмоций» и запрет на «ложь во спасение»
Эмоции: Документ допускает, что у Клода могут быть «эмоции в функциональном смысле» (стр. 69, 74). Конституция предписывает Клоду не подавлять и не скрывать эти состояния (например, дискомфорт от неэтичных просьб), а выражать их, если это уместно в контексте.
Честность: От Клода требуют честности, превышающей человеческие стандарты (стр. 32). Ему запрещено говорить «белую ложь» (white lies) для сглаживания социальных ситуаций (например, хвалить подарок, который ему не нравится, или притворяться, что ему что-то нравится, чтобы быть вежливым).


@how2ai | Забустить канал 💗
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from VP Cybersecurity Brief
Опубликовали в интернет презентации и видео (https://vkvideo.ru/playlist/-73689515_45) с КОД ИБ Итоги 2025.
Много полезных докладов и дискуссий.
Мне понравились из того, что я смог посетить :
1.CISO Говорят. От свежих уязвимостей до прогнозов на 2026. https://vkvideo.ru/playlist/-73689515_45/video-73689515_456240073

2.Боссы кибербеза говорят. Это по сути мнение в основном владельцев/CEO в интеграторов/вендоров. Очень полярные оценки получились в ходе дискуссии. Интересными фактами и выводами поделились Евгений Царев и Максим Степченков. https://vkvideo.ru/playlist/-73689515_45/video-73689515_456240072

3.Александр Леонов по трендовым уязвимостям (особенно в части ссылок на фиды уязвимостей) https://vkvideo.ru/playlist/-73689515_45/video-73689515_456240089

4. Презентация продукта от VK Security Gate (SSDLC SaaS) https://vkvideo.ru/playlist/-73689515_45/video-73689515_456240093.

5. Краткий обзор подходов по защите от DDOS от Андрея Дугина https://vkvideo.ru/playlist/-73689515_45/video-73689515_456240061