https://deepmind.google/discover/blog/alphaproteo-generates-novel-proteins-for-biology-and-health-research/

Коли я якось намагався проаналізувати, чому часто начебто в цілому розумні люди мають здатність абсолютно не реагувати на те, що їхні минулі передбачення про те, що не зможе робити ШІ, систематично не здійснюються, то я прийшов до висновку, що працює декілька когнітивних/соціальних механізмів, але головний з них наступний:

Чомусь, і я не до кінця розумію чому, висловлення скептичних прогнозів щодо ШІ є суспільним сигналом розумного, «тверезого» мислення. Сама людина, що висловлює такий прогноз, - я не знаю, чи вірить вона щиро, що це є ознакою тверезого мислення, чи просто на автоматі робить те, що, на її думку, відповідає уявленням навколишньої аудиторії про «тверезе» та «доросле» мислення, і сигналізує це.

Але так чи інакше, до смішного дурні скептичні прогнози про ШІ ніколи не висловлюються з соромом, з настроєм, що відповідає стану людини, яка говорить правду, не зважаючи на те, що її сприймуть несерйозно або що це завадить репутації. Навпаки - вони завжди висловлюються менторським тоном досвідченої людини, яка щиро вірить у свою серйозність.

Ніде, ніде більше настільки дитячі, наївні речі не виходять з вуст людей, настільки переконаних у тому, що вони є дорослою та розумною опозицією до наївних дітей.

Але якщо повертатися до новини у посиланні, то черговий неможливий гоалпост пройдено. І так, я теж - наївно, а не «досвідчено» - думав, що ще принаймні роки до де-ново дизайну протеїнів.

Цього року будуть розроблені ліки за допомогою цієї моделі - гарантовано. Багато ліків.

На жаль, через те, що у світі існує FDA, ці ліки будуть доступні у найкращому випадку за 10 років.

Так виглядають форшоки перед тим, як ШІ повноцінно опанує нанотехнологію на рівні Engines of Creation.

До речі, так. До знищення твітеру, це було єдине місце, де можна було не тільки наочно масово спостерігати побутову взаємодію і суперечки топових науковців в будь-якій сфері, але і приймати в них участь. На твої питання міг з легкістю відповісти абсолютно топовий зірковий науковець - може не нобелівський лауреат, але його співавтор. Зараз вони майже всі пішли з твітеру, в тредс вони взагалі не сидять, а в Bluesky наче трохи зʼявилися подібні спільноти, але вони маленькі.

Уявіть собі таку культуру/соціальний контракт:

Люди народжують дітей близько 20 років, але основну частину виховання та фінансування дітей роблять бабусі та дідусі, яким на момент народження онуків, відповідно, близько 40 років. Молодята, в свою чергу, теж навчаються в цей час батьківству від своїх батьків, щоб потім, вже будучи бабусями та дідусями, мати повноцінний професійний досвід виховання дітей.

В таку рівновагу дуже важко увійти з поточної рівноваги, але вона б вирішила стільки проблем поточної системи!

Зараз, люди відтягують народження дітей усе далі і далі. Часто, у них нема вибору - треба заробити гроші, отримати освіту і другого шансу збудувати карʼєру теж не буде. Особливо, якщо мова йде про народження декількох дітей - а саме це треба для зростання людства.

Але це призводить до багатьох проблем: пізня вагітність небезпечна і для матері і для дитини, кількість мутацій в сперматозоїдах зростає лінійно з віком, а ще зі зростанням віку матері можуть проявляти себе різні негативні епігенетичні ефекти. В цілому, з кожним роком життя після вісімнадцятого, зростає ймовірність того, що дитина отримає генетичні чи епігенетичні проблеми, а складність вагітності для матері збільшується. В результаті, коли настає час заводити дітей, люди або народжують одну дитину, або не народжують взагалі, або не можуть народити.

Але ж у сучасному світі, вісімнадцятирічні люди, що знаходяться у біологічному натальному оптимумі життя, в соціальному та культурному плані є дітьми! Часто, їх очікує ще багато років освіти - не кажучи вже про забезпечення фінансової безпеки та когнітивної зрілості.

З іншого боку, люди близько 40 років - часто хочуть і здатні виховувати дітей. Але біологічно вони знаходяться далеко за межами оптимального віку для цього.

Але, якщо вони б виховували дітей як бабусі та дідусі, молоді батьки у цей час могли б спокійно продовжувати освіту, а на момент початку повноцінної карʼєри у років 25, народження 3-5 дітей вже б завершувалося.

40-річні бабусі та дідусі мали б усі переваги для виховання дітей: вони мають час та гроші. Вони мають достатньо досвіду та є емоційно та когнітивно зрілими, але ще неврологічно не старіють, зберігають повноту інтелектуальної сили свого розуму, не є ще пенсіонерами, а навпаки - пройшли чи проходять пік своєї карʼєри і тому тримають руку на пульсі того, що відбувається у світі, і це підкріплено багаторічною освітою та практикою; часто вони також мають бажання - біологічне та екзистенційне - виховувати дітей. Але при цьому діти народжуються від дуже молодих батьків, що забезпечує їхнє максимальне здоровʼя і легкість репродукції. Молоді батькі теж приймають участь в вихованні дітей - але без стресу, без необхідності жертвувати значною частиною свого часу та зусиль. Вони не піклуються про те, щоб забезпечити дітей грошима. Їхні досвідчені батьки, в свою чергу, не дають їм робити помилки під час їхньої частини виховання. Вони вчаться у своїх досвідчених батьків на практиці, і в кінцевому рахунку готові прийняти на себе цю роль, коли вони будуть бабусями та дідусями.

Скот Ааронсон, один з найсильніших у світі експертів по квантовому програмуванню, в чергове висловив дуже оптимістичні прогнози щодо найближчого майбутнього квантових комп'ютерів. Якщо коротко, то є усі шанси мати повноцінні, достатньо потужні для практичних задач квантові комп'ютери у найближчі 10 років.

Він дуже обережний і, інколи можна сказати, навіть консервативний у висловлюваннях, тому ці слова, навіть сформульовані у доволі скромний формі, важать багато.

І це, в принципі, видно. Майже усі мої знайомі фізики, хто не пішов в ШІ, займаються квантовими комп'ютерами. Там постійно з'являються новини про часто доволі неочікуваний прогрес. Навіть я б сказав, що квантові комп'ютери - це одна з дуже небагатьох сфер окрім ШІ та власне звичайних комп'ютерів, де відчувається постійний прогрес в темпі, що відповідає моїм уявленням про адекватний прогрес.

Однак, для мене - як і для багатьох - ключовий інтерес до теми квантових комп'ютерів витікає не з того, які обчислення вони дозволять робити. Зазвичай люди чують слова "квантовий комп'ютер" і уявляють різні магічні властивості, які у них асоціюються зі словом "квантовий". Квантовий комп'ютер не зможе робити нічого, що не може робити звичайний комп'ютер: будь-яку квантову програму можна емулювати на звичайному комп'ютері. Це до речі один з головним аргументів, чому квантові ефекти не можуть грати виключну роль в створенні інтелекту - штучного чи людського.

Звичайно, що квантовий комп'ютер зможе виконувати певні (але не всі) алгоритми швидше, інколи набагато швидше. Але і ця перевага може компенсуватися тим, що звичайні комп'ютери банально будуть дешевіти швидше.

Так що фундаментально нових обчислень квантові комп'ютери не зроблять, і не факт навіть, що вони суттєво прискорять обчислення там, де теоретично можуть. Якщо зможуть, я буду тільки радий звичайно.

Але вони будуть означати щось ще. Для мене їхній основний promise полягає в тому, що вони будуть першими макрооб'єктами у стані суперпозиції - з усіма витікаючими наслідками. Будь-які очікування щодо обчислень затьмарюються перспективами - навіть примарними - отримати емпіричний матеріал для теорій об'єднання гравітації та квантової механіки.

До речі, усім рекомендую книгу Ааронсона Quantum Computing Since Demoritus.

За оцінкою найрозумнішого живого математика, інтелект O-1 на рівні «посереднього, але не повністю некомпетентного аспіранта».

У Європі дуже активно обговорюють план Драгі по виводу ЄС з економічної стагнації, який насамперед полягає у тому, що ЄС повинен зайнятися дерегуляцією:

https://commission.europa.eu/topics/strengthening-european-competitiveness/eu-competitiveness-looking-ahead_en

Драгі, звичайно, молодець, але.

Від трупа можна очікувати, що у в ньому буде деякий час відбуватися клітинне дихання, метаболізм та навіть експресія генів. На рівні тканин, можна розраховувати побачити неделіберативне скорочення мʼязів. Нервові клітини периферійної нервової системи можуть продовжувати передавати імпульси. А стовбурові клітини, через їхні відносно невеликі метаболічні потреби у сплячому стані, можуть взагалі продовжувати жити багато днів, інколи навіть декілька тижнів.

Але розрахувати на те, що труп встане і піде займатися якоюсь дерегуляцією - це безглуздо.

Багато дуже розумних і правильних речей звучать дуже розумно і правильно незалежно від того, на якому рівні знаходяться твої знання, коли ти їх чуєш. Наприклад, коли людина вперше чує про баєсіанізм, вона автоматично, інтуїтивно розуміє, що це правильно - і з часом, коли вивчає теорію все глибше, ця думка не змінюється.

Але інколи буває так, що теза переходить від статусу «це абсолютна маячня, не може цього бути» до «геніально, як я міг раніше не сприймати це серйозно?»

Так часто в мене буває з висловами Пола Грехема.

Сьогодні вийшов мій великий проект: бібліотека Ergodicity на Python та книга про те, як і навіщо нею користуватися: https://www.ergodicitylibrary.com.

Тема технічна і специфічна. Насамперед, може бути цікаво для людей у quant finance, але можна використовувати і в біології чи в фізиці.

Хоча я звичайно вважаю, що оптимальній поведінці в умовах радикальної непередбачуваності треба навчатися всім.

Кому цікаво, можете почитати на сайті, про що вона саме.

Один з трьох великих запланованих програмних проектів зроблено. Далі буде складніше.

Поспілкувався годинку з новим voice mode GPT.

Масштабування цієї технології з часом призведе до ще більшої кризи з шлюбами та народжуваністю.

Практично усі великі технічні корпорації почали роботу над атомними електростанціями для живлення гігантських тренувальних раундів, чи планують це робити:

https://www.wsj.com/tech/ai/microsoft-targets-nuclear-to-power-ai-operations-e10ff798

https://www.npr.org/2024/09/20/nx-s1-5120581/three-mile-island-nuclear-power-plant-microsoft-ai

https://www.reddit.com/r/nuclear/s/8ESeiqGI0D

https://www.washingtonpost.com/business/2024/06/21/artificial-intelligence-nuclear-fusion-climate/

Я знаю, що це вже казали сто разів, але. 40 років розвиток атомної енергетики - чистої, дешевої і необхідної - пригнічували під приводом її «небезпечності». Розпакували її лише заради створення винищувача цивілізації. Це філігранна точність.

Все більше і швидше.

Задумався, що 4 людини найбільше вплинули на мене. Варто про них написати і пояснити, чому.

Але спочатку - що ви думаєте, хто ці люди?

Окей.

Перед тим, як розповісти про цих людей, декілька дисклеймерів:

Трактування цього переліку людей треба сприймати максимально буквально, а саме як «люди, що найбільш вплинули на мене, на мою думку», а не «найкращі люди, на мою думку» чи «люди, на яких варто усім орієнтуватися», чи «найрозумніші люди». Двоє з них дійсно є абсолютними геніями в абсолютному топі фактичних (але, звичайно, не потенційних) людських здібностей, але двох інших - ні. Кожен з них має свої вади, і я навіть не впевнений, що я хотів би, що б цей топ виглядав для мене саме так, як він виглядає. Але моя повага і подяка до цих людей безмірна, і я багато чому навчився від них - як в інтелектуальному, так і моральному плані.

Також треба розуміти, що є багато інших людей, які на мою думку вплинули на мене не принципово менше, ніж ці 4. Тобто, не треба проводити тут якусь дуже значну межу і сприймати це розділення як щось фундаментальне.

Але навіть після цих дисклеймерів, я впевнений, що те, що я хочу донести, буде доволі відрізнятися від того, що сприйме широкий загал. Єдине, що я можу зробити у зв'язку з цим - лише ще раз попросити інтерпретувати мої слова семантично.

Я представляю топ в хронологічному порядку свого життя - тобто, не в порядку значущості.

Отже, в нього входять:

Ніцше.
Фейнман.
Талеб.
Юдковський.

Далі я напишу про них - саме в цьому порядку. Я буду давати не "загальний огляд", але лише те, що я вважаю важливим та, як правило, оминається в "загальних оглядах" (вікіпедія і так далі). Тобто, те, що дається про цих людей в умовній вікіпедії чи біографії я теж вважаю дуже важливим, я просто пишу лише про те, що одночасно важливе і зазвичай не доноситься. Тому те, що я напишу, не можна сприймати ані як повноцінну характеристику цих людей, ані як повноцінну характеристику моєї оцінки цих людей. Сподіваюся, це зрозуміло також.

Ніцше.

Ніцше відомий насамперед як ідеолог, і його ідейним рекомендаціям можна знайти багато застосовувань. Як би мені не хотілося розповісти про це детально, як би оминання багатьох важливих речей про Ніцше не було б катастрофічним спрощенням, у цьому пості я мушу зосередитися на головному для мене:

Ніцше уявив трансгуманістичну ціннісну систему, в якій би мені хотілося жити, і ніхто більше ніколи не зробив цього.

В усьому просторі усіх речей, що я коли-небудь уявляв, нема для мене нічого кращого, ніж розумні і добрі істоти, що здатні бути повноцінно щасливими і мають могутність богів, тобто здатність довільно маніпулювати реальністю згідно зі своєю волею. Утім, така могутність в руках істот поверхневих, аксіологічно нерозвинених, істот, що не відповідають моїм уявленням про гідне існування і гідне щастя… - я б хотів оминути цього. Хоча це все одно краще ніж просто водень і гелій.

І так, я кажу моїм уявленням, бо таке моє найбільш заповітне, найбільш значуще бажання. Я не вибачаюся за егоїзм, бо привабливість цього бажання для мене більша, ніж те, проти чого можна встояти, і я щиро, усім серцем, усіма найкращими частинами свого розуму, вважаю, що так було б краще для всіх.

І якби це найбільш заповітне, найбільш значуще бажання здійснилися б, якби супекластери галактик були перетворені на неосяжні та невимовні творіння розуму та sentience, якби світло волі сутностей, що мають кваліа, надало сенс холодній, байдужій і безглуздій реальності, якби ці сутності жили свої найбільш повноцінні, найбільш на всіх рівнях приємні життя, які насправді варто жити, то з якого ціннісного зерна проросле би це дерево? Я думаю, що це було б щось схоже на ціннісну систему, що розвилася з тієї, що описана Ніцше. Звичайно, ціннісна система невимовних мешканців суперкластерів була б настільки далека від системи Заратустри, як система Заратустри далека від цілей комахи, але саме з системи Заратустри могла б початися ця еволюція. Принаймні, я не бачу, з чого ще вона б могла початися.

Бо, які альтернативи? Гіпертрофований гедонізм у вигляді Гедоніуму чи пошук рішень для задачі зайнятого бобра? Розумні люди часто задають це питання: якби у нас була сила богів, що б ми могли зробити з цією силою, що насправді відповідала нашим справжнім уподобанням? Хіба не обираємо ми між катастрофічною примітивністю ролі мавпи з джином, що виконує бажання, та аморфною беззмістовністю ролі автоматичної протидії другому закону термодинаміки та колектора інформації?

На мою думку, є інший шлях - шлях величі, зростання, узгодження мета-вподобань та вподобань, реалізації тих бажань, які відповідають тим частинам мого мозку, сповненого конкуруючих частин, які я вважаю найбільш глибокими, найбільш фундаментальними аспектами моєї особистості та цілей.

Є версія трансгуманізму, що дозволяє розкрити те, що я вважаю найкращими рисами людей, і при цьому повністю узгоджена з кінцевим результатом трансгуманістичного розвитку, який зазвичай постулюється (тобто, щось типу "богоподібні істоти підкорили собі усю реальність на фундаментальному рівні"). Є альтернатива для тих, хто не хоче ані загинути короткочасною іскрою сентієнтного життя на Землі (це неминуче, якщо не йти шляхом сингулярності-трансгуманізму), ані перейти в Гедоніум, ані перетворити Всесвіт на суперкомп'ютер з абсолютно чужими для нас цілями та вподобаннями (це єдині інші альтернативи, запропоновані, якщо йти шляхом сингулярності-трансгуманізму).

Цю версію трансгуманізму і уявив колись Ніцше - можливо лише тінь її чи спотворене зображення, але інші уявили лише білий лист.

Але як це співвідноситься з моїм презирством до філософів? Ніцше корисний і цікавий для мене саме коли він не філософ (у типовому розумінні цього слова), а коли він поет та ідеолог (або філолог, в меншому ступені) - тобто, коли формулює системи цінностей, дає життєві і мотиваційні поради, або просто пише щось естетичне. В тих рідкісних випадках, коли Ніцше намагається зʼясовувати, як влаштований і працює світ, він настільки ж безпорадний і некомпетентий, як і усі інші філософи. Це людина найбільшого гуманітарного таланту, але цей талант не переноситься на інші сфери. Деяке уявлення про його гуманітарний талант дає рекомендаційний лист, написаний для Ніцше, коли йому було 24 роки, професором Річлем:

"However many young talents I have seen develop under my eyes for thirty-nine years now, never yet have I known a young man, or tried to help one along in my field as best I could, who was so mature as early and as young as this Nietzsche."

"He is the idol and, without wishing it, the leader of the whole younger generation of philologists."

"He will simply be able to do anything he wants to do."

"I should stake my whole philological and academic reputation that the matter would work out happily." (про призначення Ніцше професором за рекомендацією без виконання формальних вимог)

При цьому всьому, ретроспективно мені здається, що жити без Ніцше можна доволі нормально, і точно не можна сприймати все, що він каже, серйозно (і ніколи не можна сприймати серйозно те, що він каже про питання науки). Я був під його впливом найбільше у 13-15 років, і мені здається, це релевантний вік для цього.

Фейнман.

Фейнмана дуже багато хто з найбільш розумних і впливових людей світу вважає своїм найкращим вчителем - “the best teacher I never had”. Тут все зрозуміло, і багато було сказано різними людьми про те, чому так.

Я хочу додати лише одну річ.

Що відрізняє найкращого, найбільш ефективного воїна від інших? Він - як і інші - може знати які завгодно прийоми, техніки, чи стилі бою, але він - на відміну від інших - ніколи не забуває, що мета справжнього бою - це перемогти ворога. Коли треба, він вбʼє мечем, коли треба - ткне олівцем в око. Він ніколе не дозволить собі змішати задачу перемогти із задачею продемонструвати кращий прийом чи з задачею перемогти найбільш розумним способом. Він розуміє ціну, яку треба платити за те, що під час бою оптимізується неправильний критерій, і він розуміє, як легко почати оптимізувати неправильний критерій, якщо бій, який ти ведеш, не вартує тобі життя, а є, наприклад, спортивним змаганням.

Це і робить Фейнмана, на мою думку, виразно сильнішим за звичайного геніального фізика. Він був сфокусований лише на отриманні наукового результату і ні на чому іншому, і він кристально чітко бачив цю мету перед собою. Так, він блискуче знав усі методи, що можна було знати, і так, він отримував задоволення від процесу, але він ніколи не робив помилку заміщення процесу на результат. Інтелектуальна чесність, яка вважається стандартною, базовою чеснотою науковця, справжня інтелектуальна чесність, яка зустрічається набагато частіше в уявленні людини про свою епістемологію, ніж в реальності, є рисою, яку дуже складно мати і яка входить у супереччя з багатьма аспектами людської природи. Легко змусити себе бути інтелектуально чесним, щоб не обирати найбільш приємні результати експерименту, але складно, наприклад, щоб відмовитися від якогось абстрактного епістемологічного принципу - бо зазвичай людина не сприймає епістемологічний принцип, в який вона вірить, як якийсь принцип, вона просто вважає, що реальність працює так. Елементарний приклад: астрономи до Кеплера (включно, власне з самим Кеплером спочатку) не вважали колові орбіти якимось довільним принципом, який вони обрали, вони вважали це тим, як реальність неминуче повинна працювати. У сучасній науці є теж багато прикладів цього явища. Ситуація ускладнюється і тим, що цей недостаток інтелектуальної чесності не є суто - або навіть в значному ступені - моральною річчю. Насправді, це дуже погано, тому що чесна людина може спокійно бути інтелектуально нечесною, і ті запобіжники, які не дають їй брехати, не мають майже нічого спільного з тими, які необхідні, щоб вводити себе в інтелектуальну оману. Інтелектуальна нечесність скоріше повʼязана з комбінацією недостатньо глибокого розуміння наукових методів та нездатності розрізняти “соціальні” та “справжні” цілі науки (тобто цілі "науки" як суспільного інституту та цілі "науки" ідеалізованої машини з пізнання). Елементарний приклад: людина, яка не отримала позитивного результату експерименту насправді, репортує позитивний результат, тому що отримала достатньо мале p-значення. Вона не зробила ніяких махінацій і не приховала нічого. Її інтелектуальна нечесність - це результат того, що (а) вона недостатньо добре розуміє, що таке p-значення та в чому його сенс, і (б) вона змішала цілі “отримати p-значення, яке за наявних допущень відповідає позитивному результату” і “отримати позитивний результат” (”вмісти застосовувати прийом, який, як очікується, добре вбиває” vs “вміти добре вбивати”).

Короче, Фейнман був навпаки. Він мав цю інтелектуальну чесність в повній мірі. І це складніше, ніж здається, бо ти не можеш просто змусити себе бути інтелектуально чесним, як можеш просто змусити себе не брехати, бо це скоріше інтелектуальна риса, а не моральна. Ти повинен бути дуже розумним, і окрім освіти, повинен мати дуже гарну інтуїцію.

Спрощено можна сказати, що справжня декларована ціль науки - це пізнання світу. На практиці, науковці (тобто, люди, що працюють в установах, що мають назви наукових установ) можуть займатися чотирма речами, в порядку зростання якості: