Скільки коштує ChatGPT для Google та Місrosoft та до чого тут маржинальність пошуку

Наштовхнувся на цікавенний аналіз конкуренції між Google та Місrosoft щодо економіки пошукового бізнесу. З деякими несподіваними висновками. 

З одного боку, це для нас зараз, на жаль, first world problems, щось далеке та неістотне. З іншого — хочеться хоч трохи стежити за цими тектонічними процесами в індустрії, від якої дуже залежить, яким буде світ майбутнього.

Тому зроблю поверховий(!) переказ пари матеріалів аналітиків SemiAnalysis, які спеціалізуються на індустрії чипів. І якщо ви не задумувалися, скільки коштує пошук Гугла та оці всі ChatGPT, теж буде цікаво.

Гугл заробив на пошуковому бізнесі у 2022 році $162 млрд. Виконуючи 320 тис. запитів щосекунди. Тобто на одному пошуковому запиті Гугл усереднено заробляє 1,61 цента.

Якщо рознести прямі кости та операційні витрати пошукового бізнесу Гугла на цю кількість, вартість одного запиту — 1,06 цента. Тобто один пошуковий запит приносить 0,55 цента.

Підписуйтеся на наші соцмережі

Якщо просто імплементувати видачу ChatGPT лише у пошуковий бізнес Гугла, це зрізало б 0,35 цента маржі з кожного запиту. Або зменшило операційний прибуток з $55,5 млрд до $19,5 млрд.

А щоб прикрутити ChatGPT взагалі до кожного запиту в Гугл, потрібно 4+ млн додаткових процесорів. Не таких, як у нас в ноутах, а NVIDIA A100 — шедеврів сучасної інженерії для високонавантажених обчислень. Це коштувало б Гуглу 100 мільярдів лише капітальних видатків на сервери та мережу.

Тому тут включається оптимізаційна гонка — скоротити обсяг видачі ШІ (той же BingGPT видає у середньому 350 токенів у порівнянні з 2000 токенів ChatGPT), кешувати найпопулярніші запити, щоб не витрачати на них обчислювальну потужність (на 2000 найпопулярніших ключових слів припадає 12,2% всього пошуку), використовувати замість графічних процесорів (CPU) власні дешевші тензорні блоки обробки (TPU), призначені для великих обсягів обчислень з низькою точністю, і т. д.

Базова оптимізація вже зводить додаткові прямі кости Гугла до $3 млрд, і капекс на датацентри до $20 млрд.

Але все це впливає на якість видачі.

А от частка Microsoft у пошуку така мала, що вони можуть собі дозволити грати агресивно, витрачаючи на кожен пошук більше, щоб досягнути кращого досвіду користувачів і віджирати ринкову частку Гугла.

Як сказав недавно Сатья Наделла, «відтепер маржинальність пошуку впаде назавжди».

І от ми підходимо до найцікавішого. На початку я писав про усереднені доходи та маржу з пошуку.

Але рекламний дохід з умовної американської жінки на порядок, а, може, й на два перевищує рекламний дохід з умовного фермера в Індії.

І от з огляду на те, що запровадження якісного пошуку, доповненого великими мовними моделями для усього населення світу є економічно невиправданим, користувачі чутливі до якості та швидкості видачі, а конкуренція — шалена, ми приходимо до цікавої ситуації.

Якщо додати до цього, що ШІ набуватиме все більшої ролі й у інших застосунках та інтерфейсах взаємодії… Перечитайте передостанній абзац і змоделюйте наслідки самі.