З кожним тижнем LLM-моделі працюють якісніше — і що з цього випливає

Що відчуваю - наскільки з кожним тижнем (а не місяцями, чи роками) все якісніше працюють LLM-моделі, і відповідно наскільки легше освоюється робота з ними.

І, тому - щомісяця піднімається фінансова планка входу щоб почати працювати з АІ-агентами, для будь-яких автоматизації.
Бо споживання робиться масовим.
+420% ріст споживання токенів від початку року (графік з OpenRouter в одному з попередніх постів).
.
Ось як виглядало моє споживання токенів:

Кінець листопада - $0.
~ майже безліміт токенів, безкоштовно, романтика першопрохідців.
(адекватні агенти тільки появились) - ще навіть не було монетизації в Antigravity (хлопці просто запустили, щоб протестувати).
Але вже ввели ліміти, які обновлялись кожних 5 годин. Реально ставив будильник вночі.
Бо боявся перемикати аккаунти, і працював лише з одним. І треба було використати ліміти кожних 5 годин.
Якщо б мені хтось тоді підказав, що можна використовувати пять аккаунтів по черзі, це б пришвидшило мене на кілька тижнів життя (буквально).

Спойлер - в Антігравіті до сих пір можна перемикатись між безкоштовними аккаунтами, і таким чином отримувати токени умовно-безкоштовно.
Швидше за все - просто баг, до якого всі звикли, але який виправлять через якийсь час, тому що вони втрачають гроші.
Хоча ті ліміти на токени вже тижневі (а не погодинні), і вже маленькі, і вже банять аккаунти, якщо тільки на безкоштовних аккаунтах перемикатись.
Але ще можна зробити маленький проектик, ще насправді 100% безкоштовно.

Грудень - $20.
~ 300 млн токенів на міс
купив один акаунт за $20, і взяв безкоштовний місяць для ще одного аккаунта.
використовував ліміти ще з трьох безкоштовних.
Вистачало на 100%.

Січень - $40.
~ 300 млн токенів (за рахунок більшої кількісті аккаунітв)
Зменшились ліміти.
Тому оплатив за 2 Google-аккаунти по $20, і ще на один аккаунт, використав перший тестовий місяць, який дають безкоштовно.
Безкоштовні аккаунти - перестали бути корисними, бо у них ліміт став обнулятись раз на тиждень, а не кожних 5 годин.

Лютий - $60
~ 100 млн токенів
Докупив ще аккаунт Claude.

Березень - $140.
~ 100 млн токенів
Катастрофічно врізали ліміти в Antigravity.
Обирав на яку підписку перейти в діапазоні $100 - $200
Або Гугл, або Claude.
В нашій телеграм-групі підказали, що навіть підписка, яка за $250 у Гугла спалює ліміти токенів за лічені години - тому пішов до Claude.
Апгрейднув підписку до $100.
І цього вистачає, але вже знову от ледь-ледь. За два дні спилив 50% тижневого ліміту.

.
Який висновок.
Дивлячись зсередини, розумію що ми зараз все ще в золотій епосі, коли ще кілька місяців можна умовно-безкоштовно (або навіть за $20) працювати з топовими моделями АІ для автоматизацій.
Буквально лічені місяці залишаються.

Тому що АІ дуже швидко прогресує.
Освоєння все простіше.

.
А також, є зміни в менталітеті мислення (дивлюсь по собі), в підході до рішення задач.

І, ще ось яка інтуіція - реально дивною виглядає діяльність, яка не пропускається через АІ.
Фраза: "я краще руками зроблю" - не те щоб дивна, а звучить швидше як: "виправдання".
А там же насправді немає зовсім нічого складного.
Прям зовсім.

.
Показав знайомому як це працює (але також з програмістським минулим, і також десяток років не програмував вже), то запамяталась фраза: "Ярослав, це було найбільш цінне що я побачив за останні кілька років".
Демонстрація зайняла 15 хв.
Від моменту початку дзвінка до закінчення.
За цей час запустили працюючий прототип.
І ще трошки часу обмінювались думками про життя.

.
Бо у вайбкодингу все зводиться умовно до кількох кроків:
1. Радишся з АІ: "а що насправді я хочу, опиши мені"
2. Кажеш АІ: "напиши технічне завдання"
3. Кажеш АI (іншій) : "зроби варіанти дизайнів"
4. Несеш АІ (ще іншій): "ось ТЗ - зроби це все"
5. Підключаєш LLM-модельки з OpenRouter (10 хв)
6. Розгортаєш на своєму хостингу
7. Провіряєш, кілька разів вказуєш на помилки і кажеш: "виправ"
8. Робиш все інше, скучне але необхідне - АІ проведи нам аудит безпеки, coockies, privacy policy іт.д.
9. Інтеграція з Телеграмом, щоб отримувати сповіщення.
10. Зроби міні-CRM, де зберігай всі заявки клієнтів.

Зверніть увагу:
Не "вибери мені CRM".
А - "зроби"!

І вона зробить.
Там не буде 500 функцій. Але будуть якраз тих 10, які вам потрібні.
І, причому, трьох із них немає серед тих всіх 500, які є, але не потрібні.
І для інтеграції цих важливих саме для вас трьох функцій, вам не прийдеться брати програміста за $500 - $2000. Писати йому ТЗ, затверджувати, чекати поки він прийде, відволікати своїх працівників.
Не треба.
Просто надиктовуєте простими словами що вам потрібно.
З третього чи пятого разу у вас почне получатись. І це питання кількох годин. І умовно $20 в міс на підписку на токени.

.
Куда все рухається?
Дорогі токени - не будуть падати в ціні.
Дешеві токени (від китайців) - будуть падати в ціні. Але вони такі, що ними не хочетьcя користуватись.

Було дослідження, коли порівнювали роботу:
1. або однієї найкращої модельки.
2. або "консіліум" чотирьох дешевих.
Так от, одна краща модель - краща від чотирьох слабеньких.
Чому?
Тому що якщо якась одна з чотирьох галюционує, і передає це по ланцюжку наступній. То та наступна, вже сприймає це як "правду", а якщо ще і після неї ще якісь є в ланцюжку. То діла з того очевидно не буде.

Генерував сьогодні 600 SEO-статтей на укр мові через QWEN - 129 з них містили китайські або інші символи, які ми з Клодом прямо признали забракованими.
А, частина інших - українсько-білорусько-русько-польсько. Також забракував.
Але і коштувало недорого, близько $1 за всі. І зайняло ~1.5 год. До речі, було скучно чекати, попросив написати мені адмінку, щоб я бачив прогрес, анімацю як ті статті генеруються. 1 хв - надиктував побажання. і десь 3 хв воно програмувало.
Перегенерував нормальною Gemini Flash - обійшлось $5. І до речі, всього 40 хв.

.
Ніби допускаєш помилки,
Але кожен день - досвід, який дає глибину розуміння меж AI.
Та ідеї способів використання.

.

Вчора - за 8 годин створив портал для корпоративного навчання.
З уроками.
Тестуванням.
Кабінетом керівника щоб відслідковувати прогрес кожного співробітника.
Кабінетом кожного.
І прикольно - придумав калькулятор, для будь-якої професії - ось 10 ідей, що можна автоматизувати за час навчання.
Раніше - ну не менше місяця зайняло б, і півтора-два співробітника.
А зараз - просто 8 годин.

.
Сьогодні зробив інший портал, який дає цілісне розуміння керівнику, як переводити компанію на АІ.
Просто вводиш адресу свого сайту, і кількість співробітників.
Далі - невеличка магія - отримуєш дорожну карту, як перевести свою компанію на АІ.

.
Якщо коротко - успішне впровадження AI в компанії тримається на трьох речах:

1. керівництво розуміє ЩО автоматизувати,
2. співробітники ВМІЮТЬ це робити,
3 .і є КУЛЬТУРА постійного використання.

.
Що можна отримати з моєю допомогою:

1. Консультація 30 хв (наприклад зі мною).
Ви отримаєте Helicopter view (погляд з вертольота), щоб розуміти куди рухатись.
Можна забукати дзвінок і зі мною, безкоштовно.
Найближчі 20 дзвінків мені і самому точно цікаво, бо я також буду щось вчитись від вас.

2. Другий етап.
Організувати навчання для 100% співробітників.
Тому що ви ніколи не знаєте хто з них стане АІ-чемпіоном, з продуктивністю 5х.
А якщо всі стануть +500% - то ваша компанія просто миттєво полетить в космос.

Моя програма - це 5 днів по 2 год.
І кожен співробітник робить свою першу автоматизацію в своїй професії.
Причому, я знайшов секретний соус, і всі (ну, майже всі) співробітники будуть мати ентузіазм до навчання.
На це ноу-хау наштовхнувся, проводячи особисті навчання.
Вартість від 1999 грн до 3999 грн. за кожного.
Окупність для бізнесу - лічені тижні.

3. Третій етап - не обовязковий.
Але бажаний.
Це комбінація кнута та пряника, в залежності від вашого стилю управління.
І підтримка дисципліни (хоча людям, які вже освоїли якусь навичку, то буде хотітись її використовувати, тому що вона ж реально дає перевагу).
А також - пряники, напр бонус за кращу автоматизацію тижня, в департаменті.

Що ще потрібно знати:
Зі слів керівника Deep Mind (і моїх також) - ChatGPT знає все про оточуючий світ, але нічого конкретно про щоденну роботу вашої компанії.
Ви ніколи не витягнете достатньо даних про вашу компанію з вашої CRM чи ERP. Тому що їх там нема.
А тому напростіший спосіб - це знімати ці дані з кожного "Центру прийняття рішень, який існує у вашій компанії" - це співробітники. Щоденна 15-хвилинна звітність від кожного співробітника - повністю описує чим займається компанія щоденно. А побіною дією від письмового написання планів - ріст продуктивності до +50% (звучить так багато, що аж дико).

На що йдуть тих 15 хв.
Усього три блоки питань:
1. Що я зробив за вчора
2. Мій план на сьогодні
3. Яка допомога мені потрібна, щоб план відбувся.

.
Перших двох кроків - достатньо.
Третій - бажаний.

.
Цікаво?
Лінк на сайт в першому пості, щоб забронювати двзінок.