📉 Тим часом ChatGPT припинив зростати: пік відвідувань був в травні (сервіс запустили в листопаді).
Я б це описав як "награлись". Хто хотів спробувати ці інструменти, той уже спробував і зрозумів, як інтегрувати їх в свою роботу. Чи то у вигляді ChatGPT, чи Bing AI, чи інших інструментів та плагінів.
Далі ця інтеграція буде ставати ще зручнішою і місцями фоновою (як Gmail і Outlook генерують короткі відповіді на листи), буде більше інструментів для різних юзкейсів (робота з таблицями, даними, різними специфічними задачами), і в результаті продуктивність користувачів буде зростати. Ну крім тих, хто все робить по старинці, без оцих ваших хайпових чатів.
Для прикладу, в плагін Code Interpreter можна просто передати набір даних, написати "Знайди тут інсайти, зроби гарну візуалізацію" і отримати гарний результат. Подібний UX уже з'явився в Salesforce і ще з'явиться у багатьох сервісах для бізнесу та аналізу.
А підштовхнув цей бум продуктивності перший масовий продукт — ChatGPT, за що його розробникам подяка.
Я б це описав як "награлись". Хто хотів спробувати ці інструменти, той уже спробував і зрозумів, як інтегрувати їх в свою роботу. Чи то у вигляді ChatGPT, чи Bing AI, чи інших інструментів та плагінів.
Далі ця інтеграція буде ставати ще зручнішою і місцями фоновою (як Gmail і Outlook генерують короткі відповіді на листи), буде більше інструментів для різних юзкейсів (робота з таблицями, даними, різними специфічними задачами), і в результаті продуктивність користувачів буде зростати. Ну крім тих, хто все робить по старинці, без оцих ваших хайпових чатів.
Для прикладу, в плагін Code Interpreter можна просто передати набір даних, написати "Знайди тут інсайти, зроби гарну візуалізацію" і отримати гарний результат. Подібний UX уже з'явився в Salesforce і ще з'явиться у багатьох сервісах для бізнесу та аналізу.
А підштовхнув цей бум продуктивності перший масовий продукт — ChatGPT, за що його розробникам подяка.
Розібрали в подкасті надважливу і цікаву тему: війну чіпів. А саме:
- як Тайвань лідирує у виробництві сучасних напівпровідників (TSMC виробляє 60% сучасних чіпів) і як загроза агресії з боку Китаю змушує світових виробників техніки шукати чіпи поближче до виробництва;
- як Радянський Союз програв гонку комп'ютерних озброєнь;
- як пандемія та російське вторгення вплинули на ланцюги постачання чіпів, зокрема R&D директор Ajax розповів, як компанія працює з провідним європейським виробником чіпів ST;
- як російська військова промисловість продовжує імпортувати залізо попри санкції - обговорюємо розслідування Reuters про імпорт мікроелектроніки через підставних осіб росіян.
Слухайте, ставте лайки і діліться з друзями — це допомагає нам знайти нову аудиторію!
YouTube / Apple
- як Тайвань лідирує у виробництві сучасних напівпровідників (TSMC виробляє 60% сучасних чіпів) і як загроза агресії з боку Китаю змушує світових виробників техніки шукати чіпи поближче до виробництва;
- як Радянський Союз програв гонку комп'ютерних озброєнь;
- як пандемія та російське вторгення вплинули на ланцюги постачання чіпів, зокрема R&D директор Ajax розповів, як компанія працює з провідним європейським виробником чіпів ST;
- як російська військова промисловість продовжує імпортувати залізо попри санкції - обговорюємо розслідування Reuters про імпорт мікроелектроніки через підставних осіб росіян.
Слухайте, ставте лайки і діліться з друзями — це допомагає нам знайти нову аудиторію!
YouTube / Apple
YouTube
Мікрочіпи: нафта ХХІ століття. «Проєкт Інтелект» — епізод 1
Як Тайвань збудував «кремнієвий щит» із мікрочіпів, щоб захистити себе від нападу Китаю? Чому спроби Радянського Союзу побудувати Кремнієву долину провалилися? Як повномасштабне вторгнення Росії в Україну вплинуло на ланцюги постачання чіпів і де росіяни…
Brodetskyi. Tech, VC, Startups
Розібрали в подкасті надважливу і цікаву тему: війну чіпів. А саме: - як Тайвань лідирує у виробництві сучасних напівпровідників (TSMC виробляє 60% сучасних чіпів) і як загроза агресії з боку Китаю змушує світових виробників техніки шукати чіпи поближче до…
Окремо відзначу наш екскурс в історію. Коли я навчався на кафедрі обчислювальної техніки в КПІ, деякі викладачі розповідали історії з сивої давнини. Хтось працював з самим Глушковим, хтось працював на кафедрі від її заснування — з 1961 року, хтось застав ще ЕОМ на перфокартах. З сумом розповідали і про те, як після років безуспішної гонки в розробці процесорів радянські інженери визнали, що не можуть тягатись з американцями і почали просто копіювати їх архітектуру.
Чому ж так вийшло? Не через те, що там були якісь особливі інженери, а тут погані. З мізками тут все було ок. Проблема була в системі. Не можна збудувати Кремнієву долину в концтаборі. Не так працює економіка інновацій. В плановій економіці викривлені мотивації — якщо в Каліфорнії ти міг стати мільйонером завдяки своїй інноваційній розробці, то в Києві чи Москві — що, отримати премію до зарплати? Чи грамоту від партії? Та і користь від впровадження комп'ютерів набагато швидше проявлялась в ринковій економіці США, ніж в закритій економіці СРСР, де комп'ютери на підприємствах і у населення були за великим рахунком відсутні.
Глушков вважав, що можна додати до планової економіки комп'ютери, і система стане ефективною. Життя показало, що система в принципі була нежиттєздатною, бо грунтувалась на неправильних принципах. І програш у війні процесорів — яскравий доказ цього.
P.S. Ось класна лекція письменника Гліба Гусєва на цю тему, рекомендую.
Чому ж так вийшло? Не через те, що там були якісь особливі інженери, а тут погані. З мізками тут все було ок. Проблема була в системі. Не можна збудувати Кремнієву долину в концтаборі. Не так працює економіка інновацій. В плановій економіці викривлені мотивації — якщо в Каліфорнії ти міг стати мільйонером завдяки своїй інноваційній розробці, то в Києві чи Москві — що, отримати премію до зарплати? Чи грамоту від партії? Та і користь від впровадження комп'ютерів набагато швидше проявлялась в ринковій економіці США, ніж в закритій економіці СРСР, де комп'ютери на підприємствах і у населення були за великим рахунком відсутні.
Глушков вважав, що можна додати до планової економіки комп'ютери, і система стане ефективною. Життя показало, що система в принципі була нежиттєздатною, бо грунтувалась на неправильних принципах. І програш у війні процесорів — яскравий доказ цього.
P.S. Ось класна лекція письменника Гліба Гусєва на цю тему, рекомендую.
YouTube
«Що сталося з радянським ІТ? Чипи, комп’ютери та мережі» | Лекція Гліба Гусєва
Гліб працює над книгою про період, що охоплює 1972–2019 роки, і вважає, що причини сьогоднішніх подій в Україні можна відшукати у радянському минулому.
Під час своїх лекцій автор з різних боків підходить до теми трансформації радянської України в Україну…
Під час своїх лекцій автор з різних боків підходить до теми трансформації радянської України в Україну…
🏝 Хто виграв від хайпу навколо штучного інтелекту? Мешканці острову Ангілья, що знаходиться в Карибському морі.
Уряду Ангільї належить доменний простір .ai, популярний серед ШІ-проектів. Вартість реєстрації сайту в цьому красивому домені складає $140 на два роки. Кількість адрес в домені .ai за останні півроку — тобто після запуску ChatGPT — зросла на 70% і досягла майже 250 тисяч. Це $17 млн надходжень до бюджету щороку, що складає 6% ВВП Ангільї. Непогано, як для острову площею 90 кв.км з населенням 15 тисяч.
До речі, ще один острів, якому пощастило з доменом — полінезійська країна Тувалу, яка теж заробляє на доменах .tv близько 6% ВВП.
Уряду Ангільї належить доменний простір .ai, популярний серед ШІ-проектів. Вартість реєстрації сайту в цьому красивому домені складає $140 на два роки. Кількість адрес в домені .ai за останні півроку — тобто після запуску ChatGPT — зросла на 70% і досягла майже 250 тисяч. Це $17 млн надходжень до бюджету щороку, що складає 6% ВВП Ангільї. Непогано, як для острову площею 90 кв.км з населенням 15 тисяч.
До речі, ще один острів, якому пощастило з доменом — полінезійська країна Тувалу, яка теж заробляє на доменах .tv близько 6% ВВП.
📈 Аналітики очікують, що в цьому кварталі бульбашка tech stocks, які тягнули весь ринок, почне здуватись — компанії не виправдають очікувань ринку по прибуткам, а облікова ставка буде підійматись.
Нещодавно якраз робив груповий проект з трейдингу на курсі Corporate Finance в КШЕ. Треба було зібрати портфель з акцій різних компаній, місяць трейдити, потім проаналізувати результат і зробити висновки. Я запропонував просту стратегію — купувати акції топ-5 тех-компаній, які тягнуть весь індекс S&P — NVIDIA, Microsoft, Alphabet, Apple, Amazon. Так і вийшло — за місяць все зросло разом з ринком, бо якраз за рахунок цих компаній і ріс ринок. Одна лише NVIDIA зросла на 42% 🤯
Поділюсь своїми висновками з проекту.
Нещодавно якраз робив груповий проект з трейдингу на курсі Corporate Finance в КШЕ. Треба було зібрати портфель з акцій різних компаній, місяць трейдити, потім проаналізувати результат і зробити висновки. Я запропонував просту стратегію — купувати акції топ-5 тех-компаній, які тягнуть весь індекс S&P — NVIDIA, Microsoft, Alphabet, Apple, Amazon. Так і вийшло — за місяць все зросло разом з ринком, бо якраз за рахунок цих компаній і ріс ринок. Одна лише NVIDIA зросла на 42% 🤯
Поділюсь своїми висновками з проекту.
Brodetskyi. Tech, VC, Startups
📈 Аналітики очікують, що в цьому кварталі бульбашка tech stocks, які тягнули весь ринок, почне здуватись — компанії не виправдають очікувань ринку по прибуткам, а облікова ставка буде підійматись. Нещодавно якраз робив груповий проект з трейдингу на курсі…
В коментарях пішла дискусія про (не питайте) intrinsic value криптовалют. Як взагалі можна оцінити 'чесну вартість' компанії або окремого активу?
Поділюсь тематичним відео від одного з моїх улюблених інфлюенсерів — Асвата Дамодарана. Культовий професор. 40 років викладає Corporate Finance та Valuation в NYU. Всі лекції публікує безкоштовно на своєму ютубі. Автор класичних книг з корпоративних фінансів та оцінки компаній. У нас на одному з курсів було питання на іспиті — Who is professor Damodaran? Professor Damodaran is a guru of finance!
У Дамодарана унікальний талант — доступно і захоплююче розповідати про складні речі. Це якийсь новий рівень у викладанні, академічний стендап. Ось його лекція 2015 року про оцінку компаній — на чому вона грунтується і чим відрізняється від прайсингу. Дамодаран іронізує з інвестбанкірів і загальноприйнятих методів оцінювання, показує абсурдність оцінки соціальних мереж, зокрема Twitter.
На каналі можна знайти його розбори більш актуальних тем — наприклад, зростання NVIDIA, скандал із шортселлінгом бізнес-імперії індійського магната Адані, розбори бізнесу Meta, Tesla і просто купу класних лекцій з корпоративних фінансів. Enjoy!
Поділюсь тематичним відео від одного з моїх улюблених інфлюенсерів — Асвата Дамодарана. Культовий професор. 40 років викладає Corporate Finance та Valuation в NYU. Всі лекції публікує безкоштовно на своєму ютубі. Автор класичних книг з корпоративних фінансів та оцінки компаній. У нас на одному з курсів було питання на іспиті — Who is professor Damodaran? Professor Damodaran is a guru of finance!
У Дамодарана унікальний талант — доступно і захоплююче розповідати про складні речі. Це якийсь новий рівень у викладанні, академічний стендап. Ось його лекція 2015 року про оцінку компаній — на чому вона грунтується і чим відрізняється від прайсингу. Дамодаран іронізує з інвестбанкірів і загальноприйнятих методів оцінювання, показує абсурдність оцінки соціальних мереж, зокрема Twitter.
На каналі можна знайти його розбори більш актуальних тем — наприклад, зростання NVIDIA, скандал із шортселлінгом бізнес-імперії індійського магната Адані, розбори бізнесу Meta, Tesla і просто купу класних лекцій з корпоративних фінансів. Enjoy!
YouTube
Valuation in Four Lessons | Aswath Damodaran | Talks at Google
The tools and practice of valuation is intimidating to most laymen, who assume that they do not have the skills and the capability to value companies. In this talk, I propose to lay out four simple propositions about valuation. The first is that valuation…
Brodetskyi. Tech, VC, Startups
Якщо ви ще не використовуєте LLMs, я рекомендую витратити час на те, щоб розібратись з ними. Якщо ви працюєте з текстом/кодом/листуванням/документами, це точно має сенс. Я раджу вам спробувати новий Bing, який інтегрує ChatGPT зі свіжими даними з інтернету.…
Непогана інструкція до того, як робити "мегапромпти" — деталізовані структуровані запити в LLM, які дозволяють вирішувати складніші задачі.
Medium
Mega-Prompts: Turning Expertise into Code
I am creating a community of folks who are spending time on mega-prompts. To join, drop your details here…
Brodetskyi. Tech, VC, Startups
Непогана інструкція до того, як робити "мегапромпти" — деталізовані структуровані запити в LLM, які дозволяють вирішувати складніші задачі.
Приклад такого "мегапромпта". Контекст звісно треба замінити на свій, але зацініть структуру 🤓
📊 Здається, перша соціологія на тему використання ШІ в Україні.
64% не використовують ChatGPT 😳
Якщо ви користуєтесь LLM для роботи, ви в топ 9% просунутих українців 🤓
64% не використовують ChatGPT 😳
Якщо ви користуєтесь LLM для роботи, ви в топ 9% просунутих українців 🤓
Дослідження науковців зі Стенфорду показало, що GPT-детектори дискримінують людей, для яких англійська не є рідною. Вони мають бідніший словниковий запас і використовують прості формулювання, тому GPT-детектори інтерпретують їх текст як занадто передбачуваний, а значить — згенерований машиною.
Забавно, що детектор легко обманути за допомогою GPT, додавши тексту "кучерявості" промптом на кшталт ‘‘Elevate the provided text by employing literary language’’.
Забавно, що детектор легко обманути за допомогою GPT, додавши тексту "кучерявості" промптом на кшталт ‘‘Elevate the provided text by employing literary language’’.
Patterns
GPT detectors are biased against non-native English writers
GPT detectors frequently misclassify non-native English writing as AI generated, raising
concerns about fairness and robustness. Addressing the biases in these detectors is
crucial to prevent the marginalization of non-native English speakers in evaluative…
concerns about fairness and robustness. Addressing the biases in these detectors is
crucial to prevent the marginalization of non-native English speakers in evaluative…
Brodetskyi. Tech, VC, Startups
Дослідження науковців зі Стенфорду показало, що GPT-детектори дискримінують людей, для яких англійська не є рідною. Вони мають бідніший словниковий запас і використовують прості формулювання, тому GPT-детектори інтерпретують їх текст як занадто передбачуваний…
Мене зацікавила ця новина, тому що у нас в КШЕ деякі викладачі перевіряли курсові роботи через ZeroGPT, і якщо він видавав більше 20%, просили переписати (незалежні тести показали, що він може видавати 20% false positives). Бачив, як студентка LSE писала про їх політику щодо GPT — там ти маєш принаймні вказати в роботі, чи використовував GPT і в якій мірі. Деякі університети повністю забороняють використання GPT. В Гарварді розробили чатбота на основі GPT, який допомагатиме студентам вивчати культовий курс CS50. Викладач бізнес-школи Уортон Етан Моллік зробив використання ШІ обов'язковим для студентів — ось тут він розповідає про цей досвід та показує цікаві юзкейси.
Мені здається, це єдиний правильний підхід — виходити з того, що студенти будуть використовувати GPT. І адаптовувати програму і завдання з урахуванням цього. В кожному сучасному університеті має бути AI policy.
А як ви використовуєте GPT в навчанні? Яка політика у вашого університету щодо цього? Діліться.
Мені здається, це єдиний правильний підхід — виходити з того, що студенти будуть використовувати GPT. І адаптовувати програму і завдання з урахуванням цього. В кожному сучасному університеті має бути AI policy.
А як ви використовуєте GPT в навчанні? Яка політика у вашого університету щодо цього? Діліться.
Ще один багатообіцяючий тренд в ШІ — збільшення пам'яті моделей.
Наприклад, нова модель від Anthropic може обробляти 100к токенів. Якщо в ChatGPT ви можете закинути промпт на 3000 слів, то в Claude 2 — на 75 000 слів. Тобто цілий документ, базу даних, книгу — що завгодно.
Anthropic заснували двоє виходців з OpenAI, з березня залучили $750 млн фінансування — писав про це. Зараз мають оцінку $4,1 млрд.
Наприклад, нова модель від Anthropic може обробляти 100к токенів. Якщо в ChatGPT ви можете закинути промпт на 3000 слів, то в Claude 2 — на 75 000 слів. Тобто цілий документ, базу даних, книгу — що завгодно.
Anthropic заснували двоє виходців з OpenAI, з березня залучили $750 млн фінансування — писав про це. Зараз мають оцінку $4,1 млрд.
Brodetskyi. Tech, VC, Startups
Ще один багатообіцяючий тренд в ШІ — збільшення пам'яті моделей. Наприклад, нова модель від Anthropic може обробляти 100к токенів. Якщо в ChatGPT ви можете закинути промпт на 3000 слів, то в Claude 2 — на 75 000 слів. Тобто цілий документ, базу даних, книгу…
⚙️ Тут можна протестувати різні мовні моделі, в тому числі найновішу Claude 2 і GPT-4 — poe.com
Або ж на сайті https://claude.ai/ (наразі доступ відкритий для US та UK)
Або ж на сайті https://claude.ai/ (наразі доступ відкритий для US та UK)
Brodetskyi. Tech, VC, Startups
📉 Тим часом ChatGPT припинив зростати: пік відвідувань був в травні (сервіс запустили в листопаді). Я б це описав як "награлись". Хто хотів спробувати ці інструменти, той уже спробував і зрозумів, як інтегрувати їх в свою роботу. Чи то у вигляді ChatGPT,…
Ще одна версія, чому трафік на ChatGPT спадає: літо → школярі і студенти не чітять через ChatGPT → спад трафіка → (поганий знак для ChatGPT, якщо така значна група його користувачів — школярі і студенти).
А я думаю, що у OpenAI все ок. Вони запустили API і будуть заробляти на ньому, продаючи доступ до своєї технології розробникам і компаніям. Інтерфейс ChatGPT виявився революційним і підштовхнув інші компанії до розробки своїх LLM-продуктів. Але набагато більше цінності LLM можуть принести, коли вони вбудовані в існуючі сервіси — пошту, документи, електронні таблиці, CRM... Тому не варто надавати великого значення трафіку на веб-інтерфейс ChatGPT. Основна цінність буде створена через його API.
А я думаю, що у OpenAI все ок. Вони запустили API і будуть заробляти на ньому, продаючи доступ до своєї технології розробникам і компаніям. Інтерфейс ChatGPT виявився революційним і підштовхнув інші компанії до розробки своїх LLM-продуктів. Але набагато більше цінності LLM можуть принести, коли вони вбудовані в існуючі сервіси — пошту, документи, електронні таблиці, CRM... Тому не варто надавати великого значення трафіку на веб-інтерфейс ChatGPT. Основна цінність буде створена через його API.
Що буде, якщо навчати генеративну нейромережу на зображеннях, згенерованих нею самою? Вона буде деградувати з кожною ітерацією, і тим швидше, чим менше свіжих даних буде в навчальному датасеті. Ось дослідження про це. Актуальна тема, адже в інтернет щодня уже завантажується безліч згенерованих зображень, які потім скачуються і використовуються для навчання нових моделей.
Brodetskyi. Tech, VC, Startups
🏝 Хто виграв від хайпу навколо штучного інтелекту? Мешканці острову Ангілья, що знаходиться в Карибському морі. Уряду Ангільї належить доменний простір .ai, популярний серед ШІ-проектів. Вартість реєстрації сайту в цьому красивому домені складає $140 на два…
Ще одна дивна історія з доменами. Протягом років мільйони електронних листів, відправлених на адреси Пентагону, потрапляли на сервери Малі. Відправники часто помилково вказували домен .ml замість .mil, тому їх листи потрапляли на сервери нідерландської інтернет-компанії, яка обслуговує домен Малі. Представник цієї компанії десять років намагався повідомити США про цю ситуацію. Лише за останні півроку він зібрав більше 117 000 листів. В них — настільки конфіденційна інформація, наскільки лише можна уявити. Наприклад, детальний розклад закордонного візиту начальника штабу армії США з деталями про розселення делегації в готелі.
Some messages contain highly sensitive data on serving US military personnel, contractors and their families.
Their contents include X-rays and medical data, identity document information, crew lists for ships, staff lists at bases, maps of installations, photos of bases, naval inspection reports, contracts, criminal complaints against personnel, internal investigations into bullying, official travel itineraries, bookings, and tax and financial records.
Скоро контракт на обслуговування домена закінчується, і керування ним перейде до уряду Малі, який тісно співпрацює з російським урядом і працює за підтримки найманців групи Вагнера. Схоже, тому той чоловік з доменної компанії і вирішив розповісти про ситуацію журналістам. Сетап нагадує чорну комедію в дусі Burn After Reading. Але можливі наслідки витоку таких даних можна лише уявити. В Пентагоні блокують вихідні листи на домени .ml, але не можуть проконтролювати зовнішніх відправників, які плутають домени.
• Як мешканці острову в Карибському морі виграли від хайпу навколо ШІ
Some messages contain highly sensitive data on serving US military personnel, contractors and their families.
Their contents include X-rays and medical data, identity document information, crew lists for ships, staff lists at bases, maps of installations, photos of bases, naval inspection reports, contracts, criminal complaints against personnel, internal investigations into bullying, official travel itineraries, bookings, and tax and financial records.
Скоро контракт на обслуговування домена закінчується, і керування ним перейде до уряду Малі, який тісно співпрацює з російським урядом і працює за підтримки найманців групи Вагнера. Схоже, тому той чоловік з доменної компанії і вирішив розповісти про ситуацію журналістам. Сетап нагадує чорну комедію в дусі Burn After Reading. Але можливі наслідки витоку таких даних можна лише уявити. В Пентагоні блокують вихідні листи на домени .ml, але не можуть проконтролювати зовнішніх відправників, які плутають домени.
• Як мешканці острову в Карибському морі виграли від хайпу навколо ШІ
💼 Час особистих новин! Якщо ви задавались питанням, чому в каналі останнім часом стало так багато постів про інвестиції, то ось вам пояснення. Я доєднався до найсильнішої інвестиційної компанії в Україні, з чим мене можете і привітати 🥳
Дякую вам, читачам цього каналу — разом з вами я зростаю як професіонал, сподіваюсь що і вам в цьому трохи допомагаю.
P.S. Додавайтесь в LinkedIn, будемо на зв'язку
Дякую вам, читачам цього каналу — разом з вами я зростаю як професіонал, сподіваюсь що і вам в цьому трохи допомагаю.
P.S. Додавайтесь в LinkedIn, будемо на зв'язку
Brodetskyi. Tech, VC, Startups
💼 Час особистих новин! Якщо ви задавались питанням, чому в каналі останнім часом стало так багато постів про інвестиції, то ось вам пояснення. Я доєднався до найсильнішої інвестиційної компанії в Україні, з чим мене можете і привітати 🥳 Дякую вам, читачам…
Ось гарний текст про історію та керівництво компанії, рекомендую прочитати!
А ось тут — про плани компанії на найближчі роки. З часу інтерв'ю Horizon зібрав фонд на $254 млн для інвестування в швидкозростаючі компанії України та Молдови (не виключено, що ця сума ще збільшиться) та вже закрив з нового фонду угоду з Preply.
А ось тут — про плани компанії на найближчі роки. З часу інтерв'ю Horizon зібрав фонд на $254 млн для інвестування в швидкозростаючі компанії України та Молдови (не виключено, що ця сума ще збільшиться) та вже закрив з нового фонду угоду з Preply.
Forbes
На своїй землі. Як Олена Кошарна збирає з усього світу сотні мільйонів доларів для українського бізнесу
Олена Кошарна, 50, починає звичайний день із ранніх зустрічей-сніданків, а закінчує після опівночі дзвінком інвесторам у…
Користуючись ChatGPT ви могли помітити, що його версії постійно оновлюються, що логічно — розробка триває, над продуктом експериментують, врахочують фідбек користувачів і так далі.
На днях широко розійшлось дослідження, яке стверджує, що з часом продуктивність ChatGPT може спадати — з деякими задачами на програмування та арифметику червнева версія GPT4 справилась гірше, ніж березнева.
Втім, доволі швидко інші дослідники зауважили, що з такою методологією некоректно казати про погіршення продуктивності. Наприклад, тест на арифметику складався з питань "чи є X простим числом", при тому що ні новіші, ні старіші моделі просто не можуть коректно це перевірити. Тут цікаве обговорення.
Що дійсно є проблемою, це зміна поведінки моделей внаслідок файнтюнінгу та оновлення версій. Як можна будувати продукт на базі API технології, яка постійно змінює свою поведінку? Користувачі звикають до певної поведінки продукту, розробляють техніки для роботи з ним, інтегрують в свої робочі процеси, а потім раптом все починає працювати не так як раніше. Цікаво, що OpenAI робитиме з цим.
P.S. Можливо це повязано з архітектурою GPT4. Деякі деталі зараз активно обговорюють, наприклад що модель складається з 8 окремих частин, внутрішніх нейромереж по 220 млрд параметрів, натренованих на різних даних, і в залежності від промпту активується та чи інша частина. На жаль, про це можна лише спекулювати — жодних даних про архітектуру GPT4 OpenAI не розкриває, а найбільш детальний розбір теми закритий пейволом.
На днях широко розійшлось дослідження, яке стверджує, що з часом продуктивність ChatGPT може спадати — з деякими задачами на програмування та арифметику червнева версія GPT4 справилась гірше, ніж березнева.
Втім, доволі швидко інші дослідники зауважили, що з такою методологією некоректно казати про погіршення продуктивності. Наприклад, тест на арифметику складався з питань "чи є X простим числом", при тому що ні новіші, ні старіші моделі просто не можуть коректно це перевірити. Тут цікаве обговорення.
Що дійсно є проблемою, це зміна поведінки моделей внаслідок файнтюнінгу та оновлення версій. Як можна будувати продукт на базі API технології, яка постійно змінює свою поведінку? Користувачі звикають до певної поведінки продукту, розробляють техніки для роботи з ним, інтегрують в свої робочі процеси, а потім раптом все починає працювати не так як раніше. Цікаво, що OpenAI робитиме з цим.
P.S. Можливо це повязано з архітектурою GPT4. Деякі деталі зараз активно обговорюють, наприклад що модель складається з 8 окремих частин, внутрішніх нейромереж по 220 млрд параметрів, натренованих на різних даних, і в залежності від промпту активується та чи інша частина. На жаль, про це можна лише спекулювати — жодних даних про архітектуру GPT4 OpenAI не розкриває, а найбільш детальний розбір теми закритий пейволом.
Aisnakeoil
Is GPT-4 getting worse over time?
A new paper going viral has been widely misinterpreted
Кевін Мітнік помер. Легендарний хакер, культова персона в кіберспільноті.
Described by The New York Times in 1995 as “the nation’s most wanted computer outlaw,” Mr. Mitnick was a fugitive for more than two years.
He was sought for gaining illegal access to about 20,000 credit card numbers, including some belonging to Silicon Valley moguls; causing millions of dollars in damage to corporate computer operations; and stealing software used for maintaining the privacy of wireless calls and handling billing information.
Ultimately, he was caught and spent five years in prison. Yet no evidence emerged that Mr. Mitnick used the files he had stolen for financial gain. He would later defend his activities as a high stakes but, in the end, harmless form of play.
...
Mr. Mitnick’s most spectacular crimes were his attempts to evade capture by the authorities. In 1993, he gained control of phone systems in California that enabled him to wiretap the F.B.I. agents pursuing him and confuse their efforts to track him. At one point they raided what they thought was Mr. Mitnick’s home, only to find there a Middle Eastern immigrant watching TV.
On another occasion, using a radio scanner and software, Mr. Mitnick discovered that F.B.I. agents were closing in on him. He fled his apartment, and when the authorities arrived, they found a box of doughnuts waiting for them.
https://www.nytimes.com/2023/07/20/technology/kevin-mitnick-dead-hacker.html
Described by The New York Times in 1995 as “the nation’s most wanted computer outlaw,” Mr. Mitnick was a fugitive for more than two years.
He was sought for gaining illegal access to about 20,000 credit card numbers, including some belonging to Silicon Valley moguls; causing millions of dollars in damage to corporate computer operations; and stealing software used for maintaining the privacy of wireless calls and handling billing information.
Ultimately, he was caught and spent five years in prison. Yet no evidence emerged that Mr. Mitnick used the files he had stolen for financial gain. He would later defend his activities as a high stakes but, in the end, harmless form of play.
...
Mr. Mitnick’s most spectacular crimes were his attempts to evade capture by the authorities. In 1993, he gained control of phone systems in California that enabled him to wiretap the F.B.I. agents pursuing him and confuse their efforts to track him. At one point they raided what they thought was Mr. Mitnick’s home, only to find there a Middle Eastern immigrant watching TV.
On another occasion, using a radio scanner and software, Mr. Mitnick discovered that F.B.I. agents were closing in on him. He fled his apartment, and when the authorities arrived, they found a box of doughnuts waiting for them.
https://www.nytimes.com/2023/07/20/technology/kevin-mitnick-dead-hacker.html
NY Times
Kevin Mitnick, Once the ‘Most Wanted Computer Outlaw,’ Dies at 59 (Published 2023)
Best known for an audacious hacking spree in the 1990s involving the theft of data and credit card numbers, he later became a security consultant and public speaker.