Копируем, продаём, снимаем с продажи: алгоритмическая бизнес-модель Shein

У Насти вышел очень интересный материал на эту тему.

Вкратце:

- Пишут, что Shein алгоритмически отслеживает модные микро-тренды в социальных сетях и конвертирует их в дизайн одежды и аксессуаров, которые молниеносно производятся на фабриках компании в Китае.
- Каждый новый продукт выпускается первоначально партией в 100-200 единиц, что на порядок меньше, чем у конкурентов.
- Тщательная проверка на нарушение чужих интеллектуальных прав якобы заранее не проводится, но если поступает претензия, Shein быстро снимает товар с продажи и, если требуется, компенсирует убытки.
- Из-за крошечного размера партии размер компенсации всегда ограничен и периодические её выплаты не влияют на прибыльность бизнес-модели в целом.

Мета перестанет показывать индивидуализированную рекламу без согласия

Об этом компания* объявила на своём сайте: основание обработки персональных данных для такой рекламы будет изменено с законного интереса на согласие. Конкретная дата для такого перехода пока не называется.

Ранее, с 5 апреля этого года компания обрабатывала такие данные на основании законного интереса, а до этого изначально — на основании договора (пользовательского соглашения).

Однако изначальная практика была признана надзорным органом незаконной по жалобе активистов из NOYB.

Теперь же, после дополнительных консультаций с надзорным органом Мета решила перейти к подходу, на котором изначально настаивали прайваси-активисты.

Решение касается пользователей из ЕС, Европейской экономической зоны и Швейцарии.

* Деятельность Meta Platforms Inc. по реализации продуктов — социальных сетей Facebook и Instagram запрещена в РФ

10 рекомендаций для лиц, формирующих государственную политику в области ИИ

Для составления этого списка я попросил Claude 2.0 от Anthropic проанализировать набор из 20 с лишним статей, которые я к этому моменту опубликовал в своей рассылке на Линкдин (подписаться на рассылку можно здесь).

Все идеи взяты так или иначе именно из моих текстов, но задачу собрать их все, резюмировать, и оформить в единый когерентный список выполнила большая языковая модель. Перевод на русский отредактирован мной для лучшей передачи нюансов и правильной расстановки акцентов, также мною добавлены подзаголовки:

1. Акцент на ИИ повышенной опасности. Принять на основе риск-ориентированного подхода нормативные акты в области ИИ, сосредоточив регулирование на областях применения повышенной опасности, не пытаясь единообразно регулировать применение всех систем ИИ.

2. Управление рисками и независимый аудит. Требовать от разработчиков систем ИИ внедрения обязательных систем управления рисками и стимулировать становление института регулируемого независимого аудита для применений ИИ, создающих повышенную опасность.

3. Инвестиции в улучшение безопасности. Стимулировать инвестиции в исследования в области безопасности, этики и ценностного соответствия (alignment) систем ИИ в рамках общих программ финансирования исследований в области ИИ.

4. Регулирование инклюзивное и непреждевременное. Консультироваться с широким кругом заинтересованных сторон и общественными объединениями при формировании политики и нормативных актов в области ИИ. Избегать преждевременного регулирования.

5. Автономия субъектов персональных данных. Рассмотреть законопроекты, которые позволили бы гражданам заявлять о личных предпочтениях в области обработки их персональных данных, которые бы затем операторы персональных данных должны были бы соблюдать, реализуя право граждан на личную автономию.

6. Европейское регулирование как основа. Взять за основу модель регулирования, аналогичную заложенной в Регламенте ЕС об ИИ, для обеспечения принципов подотчетности, открытости, справедливости и эффективного контроля человека над системами ИИ.

7. Балансировка интересов. Оценить, достаточно ли действующее законодательство для решения новых проблем, таких как использование систем ИИ для диффамации, и адекватно ли оно балансирует противостоящие друг другу интересы, например, защита неприкосновенности частной жизни и снижение ошибок при принятии автоматизированных решений.

8. Грамотность ИИ-потребителей. Финансировать программы для улучшения понимания в обществе возможностей и ограничений систем ИИ и для исключения нереалистичных ожиданий.

9. Защита конкуренции. Оценить риски ограничения конкуренции из-за доминирования на рынке систем ИИ крупнейших игроков с тем, чтобы снизить их негативное влияние на дальнейшее развитие рынка (не только рынка самих систем ИИ, но и любых других рынков, на которые влияет применение таких систем).

10. Партнёрство с отраслью без игры в поддавки. Наладить партнерство с отраслью для разработки отраслевых кодексов поведения для ответственной разработки и внедрения ИИ на деле, а не на словах.

Заканчиваю набор на первый поток экспериментального курса по AI Governance на английском

Последняя возможность зафиксировать подписку на целый год в рублях закрывается в 23 ч. 59 мин. МСК сегодня.

Детали и запись здесь.

Зум будет использовать данные звонков и метаданные для машинного обучения

Это следует из новой редакции п. 10.2 и 10.4 пользовательского соглашения.

В частности, из них следует, что вы даёте оператору сервиса не ограниченную по времени и пространству лицензию на использование любых расшифровок звонков, аналитики и иных материалов, производных от любой обработанной сервисом информации, включая все ваши персональные данные, обрабатываемые во время звонков и конференций (в пределах, не противоречащих политике компании).

Лицензия покрывает широкий спектр случаев, включая разработку и улучшение продуктов компании, с возможностью уступки прав по лицензии третьим лицам или сублицензирования.

Возможности использования метаданных (кто, кому и когда звонил и т.п.) ещё более широки.

Учитывайте это при использовании сервиса.

Виспер и транскрибирование аудио

Если вы пропустили восторги по поводу этого средства для точного распознавания речи и транскрибирования, которое появилось уже довольно давно, самое время восполнить упущенное.

Виспер был создан Оупен-Эй-Ай и выпущен в открытом исходном коде.

Поддерживает в том числе русский.

Григорий Герганов переложил на Си++ и оптимизировал для работы на Макбуках. Его версия доступна здесь.

Ода этому инструменту, из-за которой я заинтересовался, была опубликована в Нью-Йоркере.

Сам Виспер встроен в приложение ЧатГПТ, в том числе на Андроиде, и распознавание русского я попробовал. Результат очень хороший.

Единственное, в этом случае Виспер работает в облаке, а не на устройстве, и данные уходят к Оупен-Эй-Ай.

Если это вам не подходит, можете собрать приложение сами и запускать на своём устройстве.

Инструкция от Кевина Стратверта по сборке для ПК.

А вот его же руководство по установке и запуску приложения в Гугл облаке для транскрибирования файлов. Да, приложение также создает srt, так что можно делать субтитры.

Парламент Индии принял законопроект о защите персональных данных

Об этом сегодня сообщает издание "Таймс оф Индия". Законопроект (см. текст) принят спустя шесть лет после того, как Верховный суд страны признал наличие у граждан фундаментального права на защиту неприкосновенности частной жизни.

Министр информационных технологий Ашвини Вайшнав заявил, что законопроект устанавливает ряд обязанностей для частных и государственных организаций, собирающих и обрабатывающих данные о гражданах.

По заявлению министра, законопроект написан доступным языком, понятным "даже обычному человеку". Характерно, что прямо по тексту акта приводятся примеры, показывающие как его положения будут применяться в некоторых типичных жизненных ситуациях.

Также законопроектом предусмотрены штрафы. В частности, непринятие адекватных мер безопасности для предотвращения утечки персональных данных карается штрафом до 2,5 млрд. рупий (2,9 млрд. рублей).

Индийский независимый аналитический центр, PRS Legislative Research, обобщает положения акта следующим образом:

Основные положения законопроекта

- Законопроект будет применяться к обработке цифровых персональных данных на территории Индии, когда такие данные собираются в онлайне или собираются в оффлайне и переводятся в цифровой формат. Он также будет применяться к такой обработке за пределами Индии, если она осуществляется для предложения товаров или услуг в Индии.

- Персональные данные могут обрабатываться только с согласия физического лица (data principal) или без такого согласия, но только для ограниченного перечня законных целей . В частности, отдельное согласие не требуется для обработки данных в целях, для которых гражданин сам добровольно предоставил эти данные, а также для предоставления ему государством разрешений, лицензий, льгот и услуг.

- Операторы данных (data fiduciaries) будут обязаны поддерживать точность данных, обеспечивать их сохранность и удалять данные после достижения цели обработки.

- Законопроект предоставляет определенные права физическим лицам, включая право на получение информации, исправление и удаление данных, а также на обжалование действий оператора.

- Центральное правительство может освобождать государственные учреждения от применения положений законопроекта, когда это необходимо в интересах безопасности государства, общественного порядка и предотвращения правонарушений.

- Центральное правительство создаст Совет по защите данных Индии, который будет выносить решения по вопросам несоблюдения положений законопроекта.

Ключевые вопросы и анализ

- Исключения из правил обработки данных государством по таким соображениям, как национальная безопасность, могут привести к сбору, обработке и хранению данных сверх необходимого. Это может нарушить фундаментальное право на неприкосновенность частной жизни.

- Законопроект не регулирует риски причинения вреда в результате обработки персональных данных.

- Законопроект не предоставляет гражданам право на переносимость данных и право на забвение.

- Законопроект разрешает передачу персональных данных за пределы Индии, за исключением стран, указанных центральным правительством. Такой механизм может не обеспечить адекватной оценки стандартов защиты данных в странах, куда разрешена передача персональных данных.

- Члены Совета по защите данных Индии будут назначаться на два года и иметь право на повторное назначение. Короткий срок с возможностью повторного назначения может повлиять на независимое функционирование Совета.

В продолжение темы о Зуме и ИИ

Записал небольшое видео, объясняющее детали (на английском).

Без ВПН доступно по платной подписке Robocounsel Plus.

Оперативная реакция от Зум

Семь часов назад я опубликовал это видео на Линкдине.

И вот, как сообщает американский коллега, к этому часу они поправили своё пользовательское соглашение.

В частности, включив положение о том, что и сторонним разработчикам (а не только своим) данные звонков они для машинного обучения не передают.

Это был один из моментов, на которые я обращал внимание в своей критике. Насколько мне известно, другие комментаторы об этом не упоминали.

Хорошо, когда вас читают где нужно.

Будем следить за дальнейшими изменениями в документе.

Почему некоторые люди переоценивают возможности чатботов?

Некоторые верят в то, что современные чатботы не просто полезны для решения ряда прикладных задач, а уже способны понимать любую информацию так же, как её понимает человек. Некоторые идут в своих выводах и дальше, начиная рассуждать о сознании, самосознании и прочем.

Балдур Бьярнарсон сравнивает верующих в это с людьми, убеждёнными в сверхспособностях экстрасенсов. Его статья на эту тему большая и очень подробная, приведу лишь некоторые тезисы из неё:

1. Аудитория потенциальных верующих формируется из людей со схожими взглядами.
Люди, скептически настроенные к ИИ-чатботам, менее склонны их использовать. Те, кто убеждён в ограниченности их возможностей, не поддаются хайпу. И наборот, самыми активными будут ранние пользователи, энтузиасты технологий и искренние сторонники AGI, которые смотрят на технологии менее критически и более открыты для нового.

2. Всё располагает к тому, чтобы уверовать.
Пользователи настроены в нужном направлении благодаря сопутствующему ажиотажу. Среда формирует настроение и ожидания. Предупреждения о том, что это "ранние дни" и "галлюцинации", одновременно антропоморфизируют бота и создают дополнительные готовые оправдания для его постоянных ошибок.

3. Контекст ответа задаётся запросом пользователя.
Все взаимодействуют с чатботами по-разному. Кто-то принимает первоначальный ответ как готовое решение своей проблемы, кто-то докручивает промт, делая вариации до момента получения желаемого ответа. Обе эти группы не подвержены иллюзиям и спокойно переходят от использования бота к другим повседневным делам. Но некоторые пользователи вступают в то, что им кажется "разговором" и эмоционально вовлекаются в "общение".

4. Кажущаяся специфичность ответов.
Ответы чатбота выглядят крайне релевантными в том контексте, в котором пользователь их задаёт, но на самом деле они статистически универсальны. Математическая модель, стоящая за чатботом, просто предоставляет статистически вероятный, на основе анализа обучающей выборки текстов, ответ на вопрос. Те пользователи, которые считают ответ специфическим и убедительным, ещё более вовлекаются в "общение".

5. Петля субъективного самоубеждения.
Пользователь задает серию вопросов, и все ответы звучат как обоснованные ответы, специфичные для контекста, но на самом деле являются лишь статистически обоснованными прогнозами того, что хочет увидеть пользователь. Чем больше пользователь взаимодействует с ботом, тем больше он убеждается в его "интеллекте".

6. "Ого! Этот чатбот думает! В нем есть искры разума!"
Уверовавший пользователь остается с ощущением, что чатбот поразительно близок к самосознанию и определенно способен к рассуждениям. Хотя на самом деле это лишь статистика в действии, помноженная на когнитивные ошибки уверовавшего.

Суд в США отказался признать охраноспособными произведения, созданные без участия человека

Проиграв дело против Патентного бюро США в прошлом году, неугомонный разработчик системы искусственного интеллекта "Дабус" доктор Стивен Талер другой своей мишенью выбрал Бюро США по авторским правам.

В новом иске доктор Талер просил суд признать, что произведения, созданные компьютером без участия человека, охраняются авторским правом в соответствии с федеральным законодательством США и что авторские права должны принадлежать Талеру на основании принципов общего права и доктрины "работы по найму".

Как сообщает Франклин Грейвз (CreatorEconomyLaw.com), сегодня судья Окружного суда округа Колумбия отказал Талеру в иске.

С учётом прежнего опыта будет удивительно, если истец не подаст очередную — вероятно, снова бесполезную — апелляционную жалобу.

А произведения, созданные без участия человека, по-прежнему не охраняются.

Публичные заявления ИТ-индустрии о приверженности ИИ-этике расходятся с практикой

Об этом свидетельствует недавнее исследование учёных из Стэнфорда по результатам опроса инсайдеров.

В опросе участвовали 25 специалистов из самой индустрии, из которых 21 работают или имели опыт работы над инициативами ответственного применения ИИ хотя бы в одной, а зачастую в нескольких крупных технологических компаниях — со штатом от 6 тысяч до сотен тысяч человек.

По данным опроса, технологические компании крайне непоследовательно подходят к этической оценке выпускаемых продуктов и последствий их применения. Вплоть до того, что иногда специалистов по ИИ-этике лишь ставят перед фактом за короткое время перед выходом нового продукта.

Этические команды часто недофинансируются, не получают достаточной поддержки от руководства компаний и не наделяются полномочиями для участия в процессе принятия решений и для принуждения к соблюдению внутренних этических политик и процедур.

Для исправления ситуации исследователи, соответственно, рекомендуют технологическим компаниям делать этическую оценку обязательным, а не просто желательным элементом любого процесса разработки продуктов, и наделять этические команды необходимыми полномочиями.

Несоблюдение этих рекомендаций чревато усугублением репутационного ущерба, который компании уже несут из-за — как оказалось, справедливых — обвинений в том, что участие в этических инициативах для ряда компаний лишь ширма для прикрытия сомнительного ведения бизнеса по-старинке.

Можно ли управлять применением ИИ?

Регламент ИИ в ЕС — луч света в тёмном царстве или очередное средство наднационального контроля? И что там с Конвенцией Совета Европы?

Об этом и не только 29 августа в 15:15 по МСК поговорим с Грегором Строиным, зампредседателя Комитета по ИИ Совета Европы.

Регистрируйтесь здесь.

ИИ пришёл: для профессионалов всё пропало?

ИИ-оптимисты часто предсказывают, что системы ИИ, ориентированные на потребителя, уже в ближайшее время заменят профессионалов. Когда им возражают, ссылаясь на те ключевые элементы бизнес-процессов, где нельзя обойтись без критического мышления и профессиональных суждений и решений человека, они отвечают: "Это пока".

Но "Это пока" может означать совершенно разные прогнозы по времени.

В частности, когда кто-то пытается делать смелые прогнозы, выходящие далеко за пределы его узкой специализации, обычно этот кто-то сильно преувеличивает темпы и степень автоматизации сложных функций (ввиду полного непонимания их содержания).

Например, меня всегда забавит то, как люди преувеличивают влияние автоматизации в сфере права. Как это делают люди, которые ничего не знают о праве и о том, как оно работает в обществе. Да, у юристов появились все эти новые инструменты, но они как были, так и останутся в основном именно инструментами для профессионалов, которые позволяют им сокращать время и расходы на решение клиентских задач. Всё самое важное и осмысленное по-прежнему делают юристы.

При условии экономического роста, а значит, и увеличения числа бизнес-проектов, молодые специалисты могут переключаться на новые юридические задачи и просто использовать автоматизацию, чтобы делать больше.

То же самое можно сказать и о разработке программного обеспечения. С чего это нам нужно будет меньше молодых специалистов? Вы считаете, что завтра будет меньше проектов по разработке ПО и они будут менее сложными, чем сегодня? Почему?

К тому же мы очень далеки от появления машин, реализующих наши замыслы с точностью, достаточной для достижения результатов на профессиональном уровне. На создание таких машин уйдут не годы, а десятилетия.

И отдельно о карьерных перспективах.

В отношении них энтузиасты ИИ также недооценивают значение навыков работы с людьми. Во всех беловоротничковых профессиях профессионалы, претендующие на лидерство внутри компании или как независимый игрок на рынке, добиваются успеха благодаря навыкам работы с людьми, а не техническим навыкам. Бизнес-навыки — это тоже прежде всего про людей. Про работу с вашими клиентами, с рынком.

С другой стороны, если вы только начинаете осваивать профессию, то цифровая, технологическая грамотность — это, по сути, сейчас просто одна из составляющих общей профпригодности.

Конечно, освоение новых технологий не происходит одновременно для всех, но в масштабе поколений это уже вопрос решенный.

В качестве примера можно привести юриспруденцию. Сейчас никто не пользуется бумажной литературой для поиска прецедентов, все пользуются справочными правовыми системами. В крайнем случае — интернет-поиском.

Но при этом вы нигде в прессе не увидите заголовков типа "Этот юрист разорился, потому что продолжал искать судебную практику в местной библиотеке".

Изменения происходят медленнее и постепеннее, и люди старшего возраста, не столь подкованные в технологиях, могут спокойно постепенно отходить от дел, используя свой опыт и навыки работы с людьми (которые в любом случае важнее для получения дохода).

Та же аналогия применима и к использованию более продвинутых форм автоматизации.

Как провалить рассылку об изменениях в пользовательском соглашении

1) Разошлите емейлы. Так вы сделаете вид, что заботитесь о прозрачности.

2) Никогда не пишите, что именно поменялось (например, мы увеличили/уменьшили время рассмотрения претензий до X дней, будем передавать ваши данные новому обработчику Y и использовать их для новой цели Z).

3) Когда люди убили время на чтение бесполезного письма, заставьте из убить ещё больше времени на прочтение всего документа на сайте целиком.

4) Ни при каких обстоятельствах не давайте им краткого описания изменений и не выделяйте и не давайте ссылки на те части документов, которые меняются.

Заспамим всё: низкокачественный ИИ-контент отравляет инфосферу

В последнее время слышу: в интернете становится слишком много бесполезного, низкокачественного контента, сгенерированного ИИ.

Результаты поиска — по крайней мере, по некоторым темам — начинают заполняться, если не переполняться, таким "тяп-ляп творчеством", качество которого хуже, чем посредственное.

Это касается разных форматов: музыка на Спотифай, видео на Ютубе и т. д. На Амазоне выставляются на продажу целые библиотеки нагенерированных книг.

Замечаете ли вы эту тенденцию при поиске контента? Если да, то в каких контекстах вы сталкиваетесь с этим чаще всего?

Я наблюдаю это на Ютубе и Спотифае, по крайней мере, когда пытаюсь изучить что-то новое, злободневное.

Например, кто-то пытается привлечь внимание, выкладывая полностью сгенерированные ИИ новостные обзоры в Ютубе. И иногда такой контент рекомендательными системами не распознается и не деприоритизируется как низкокачественный (хотя на самом деле он такой и есть).

Я понимаю, что такое происходит, когда ИИ используется без включения головного мозга — умышленно или просто по глупости.

Вместо того, чтобы использовать инструменты генеративного ИИ для помощи в творческом процессе, люди просто пользуются ботами для генерации и публикации контента без какого-либо осмысленного редактирования и руководства всем процессом.

Когда весь процесс от поиска тем до генерации и публикации полностью алгоритмизирован, результаты, как правило, оставляют желать лучшего.

До появления генеративного ИИ загрязнять наше общее информационное пространство в массовом масштабе было сложнее.

Но сейчас это можно делать и масштабировать при весьма скромных затратах.

И что же нам делать, как пользователям?

Результаты нашего поиска засоряют. Мы тратим часть своего времени впустую. А затем у нас есть выбор: либо терпеть это, тренируя себя распознавать сгенерированный ИИ контент в результатах поиска перед тем, как кликнуть... Либо пользоваться только заранее известными, проверенными источниками.

Мои выводы?

Во-первых, предсказываю, что фильтры поиска контента, которые позволяют выбрать только проверенные и (или) авторитетные источники, будут становиться все более распространенными. И это поможет пользователям справиться с новой проблемой.

Во-вторых, для платформ процесс публикации и проверки контента, вероятно, станет более сложным.

И, в-третьих, для действительно серьезного контента (например, книга по съедобным и ядовитым грибам) решение по-прежнему — как и должно было быть всегда — заключается в том, чтобы фильтровать источники на основе их репутации, репутации автора и рецензий его коллег.

Ну, то есть вы не будете покупать книги на серьезные темы без хороших отзывов, если автор не признан коллегами (например, указан на сайте профильной профессиональной ассоциации как действующий её член).

Это, однако, означает сложные времена для новичков, особенно с неординарными взглядами. Нет репутации — нет продаж.