Користуючись ChatGPT ви могли помітити, що його версії постійно оновлюються, що логічно — розробка триває, над продуктом експериментують, врахочують фідбек користувачів і так далі.

На днях широко розійшлось дослідження, яке стверджує, що з часом продуктивність ChatGPT може спадати — з деякими задачами на програмування та арифметику червнева версія GPT4 справилась гірше, ніж березнева.

Втім, доволі швидко інші дослідники зауважили, що з такою методологією некоректно казати про погіршення продуктивності. Наприклад, тест на арифметику складався з питань "чи є X простим числом", при тому що ні новіші, ні старіші моделі просто не можуть коректно це перевірити. Тут цікаве обговорення.

Що дійсно є проблемою, це зміна поведінки моделей внаслідок файнтюнінгу та оновлення версій. Як можна будувати продукт на базі API технології, яка постійно змінює свою поведінку? Користувачі звикають до певної поведінки продукту, розробляють техніки для роботи з ним, інтегрують в свої робочі процеси, а потім раптом все починає працювати не так як раніше. Цікаво, що OpenAI робитиме з цим.

P.S. Можливо це повязано з архітектурою GPT4. Деякі деталі зараз активно обговорюють, наприклад що модель складається з 8 окремих частин, внутрішніх нейромереж по 220 млрд параметрів, натренованих на різних даних, і в залежності від промпту активується та чи інша частина. На жаль, про це можна лише спекулювати — жодних даних про архітектуру GPT4 OpenAI не розкриває, а найбільш детальний розбір теми закритий пейволом.

Кевін Мітнік помер. Легендарний хакер, культова персона в кіберспільноті.

Described by The New York Times in 1995 as “the nation’s most wanted computer outlaw,” Mr. Mitnick was a fugitive for more than two years.

He was sought for gaining illegal access to about 20,000 credit card numbers, including some belonging to Silicon Valley moguls; causing millions of dollars in damage to corporate computer operations; and stealing software used for maintaining the privacy of wireless calls and handling billing information.

Ultimately, he was caught and spent five years in prison. Yet no evidence emerged that Mr. Mitnick used the files he had stolen for financial gain. He would later defend his activities as a high stakes but, in the end, harmless form of play.
...
Mr. Mitnick’s most spectacular crimes were his attempts to evade capture by the authorities. In 1993, he gained control of phone systems in California that enabled him to wiretap the F.B.I. agents pursuing him and confuse their efforts to track him. At one point they raided what they thought was Mr. Mitnick’s home, only to find there a Middle Eastern immigrant watching TV.

On another occasion, using a radio scanner and software, Mr. Mitnick discovered that F.B.I. agents were closing in on him. He fled his apartment, and when the authorities arrived, they found a box of doughnuts waiting for them.

https://www.nytimes.com/2023/07/20/technology/kevin-mitnick-dead-hacker.html

Нещодавно Meta випустила опенсорсну модель Llama 2 на 70 млрд параметрів. Навіщо?

1. Підрізати бізнес конкурентів. LLama 2 доступна для комерційного використання. Навіщо розробникам ШІ-сервісів платити за доступ до API GPT чи інших пропрієтарних моделей, якщо можна побудувати чатбота чи Gen AI сервіс на безкоштовній моделі?

2. Покращити власні розробки руками опенсорс-спільноти. Випустивши в паблік топову опен-сорс модель, Meta запросила долучитись до її покращення тисячі розробників з усього світу. Вони уже координуються в онлайн-спільноти і розробляють туторіали, бібліотеки, софт та техніки для роботи з Llama 2. Meta зможе використати ці напрацювання для покращення власних ШІ-розробок.

Чому так драматично впав трафік на StackOverflow, найпопулярнішому форумі для розробників?

Підказка: спробуйте вгадати, де на цьому графіку дата запуску ChatGPT. Відповідь в коментарях.

🔥 CNN показали ексклюзивні кадри українського безпілотного катера Магура, який може нести 300 кг вибухівки і вражати цілі на відстані до 800 км. Такі катери допомогли обмежити активність російських кораблів в Чорному морі.

Повністю українська розробка.

Tech firms in the US are talking less about recession and more about artificial intelligence this earnings season, signaling that companies are increasingly optimistic about a soft economic landing — Bloomberg

🎤 В четвер розкажу на найбільшій українській tech конференції про ШІ-хайп на публічних і приватних ринках капіталу. Хто куди інвестує, хто на чому заробляє і на що витрачає. Одним словом — де гроші в ШІ.

Приходьте, буде цікаво! Програма сильна, зокрема відзначив для себе треки про стартапи/ШІ та military tech. Ну і як завжди, iForum — важлива точка синхронізації 🙂

🎙 А тим часом подивіться або послухайте наш останній випуск подкасту, де ми з Сашею Гончаром обговорили важливі тренди в індустрії ШІ:
- мегараунди Mistral, Anthropic, Inflection зі стратегічними інвесторами
- open source vs пропрієтарні моделі (читати: Google "We Have No Moat, And Neither Does OpenAI")
- стратегії розвитку ШІ та підходи до регулювання ШІ - глобальні і в Україні (з коментарями Олексія Молчановського, керівника урядового комітету з розвитку ШІ)

Вийшло як завжди насичено і в той же час лайтово-душевно. Дивіться на ютубі, слухайте на Apple Podcasts, і не забувайте ставити оцінки, якщо вам сподобався контент!

💡 Гарний підхід до використання LLM для брейнстормінгу — показати приклади і попросити згенерувати подібні результати

Венчурні фонди нечасто розкривають свої показники ефективності — це внутрішня інформація, якою діляться лише з інвесторами (LPs). Тому цікаво глянути на показники фонду Flyer One Ventures, якими поділився його керуючий партнер Віталій Лаптенок. Дуже непогано в порівнянні з бенчмарком європейських фондів!

(якщо коротко, мова йде про "ікси" інвесторів фонду, DPI — реалізовані, TVPI — "паперові")

P.S. Якщо бачили десь опубліковані показники перфомансу інших українських фондів, поділіться.

І ще трохи про те як AI-стартапи живуть в світі доступного капіталу, ніби зараз 2021 рік, поки всі інші не можуть залучити фінансування.

- AI-генератор презентацій Tome залучає фінансування за оцінкою $600M, заробляючи $170k на місяць. При тому що схожі продукти роблять Microsoft і Canva.
- Розробник LLM для медичних закладів Hippocratic AI залучив $50M без продукту.
- Character.AI в березні мав оцінку $1B, не маючи виручки.
- Ну і не забуваємо про французького вбивцю OpenAI — Mistral, яким дали $113M через місяць після заснування компанії.

Заголовок гарний зробили на The Information.

Ось, до речі, текстовий пітчдек, з яким Mistral залучили $113M. Цікавий документ

via Sifted

Вийшов запис моєї доповіді на iForum про інвестиції в AI. Розповів про хайп навколо AI на публічних та приватних ринках, як компанії заробляють на різних рівнях технологічного стека, що може бути конкурентною перевагою для AI-продукту та за якими цікавими трендами ми будемо спостерігати в найближчі роки. Хотілось розповісти більше, але таймінг був строгий, тому вийшло дуже насичено, рекомендую переглянути! В коментарі скину презентацію, там багато цікавих графіків.