Чи вигідно добувати токени на власній відеокарті
Скільки АІ-токенів можна отримати/зекономити на відеокарті, наприклад в офісі або дома?
Опубліковано · Ярослав Максимович
Скільки АІ-токенів можна отримати/зекономити на відеокарті, наприклад в офісі або дома?
Чи це вигідно, і чи практично?
Важлива умова - щоб це мало практичний зміст, LLM-модель повинна бути і якісною і відносно швидкою.
На сьогодні, найкраща - це Qwen2.5-Coder 32B.
Вимагає 24 гб відеопамяті.
Дає - 40-100 токенів на секунду.
ChatGPT - 150 (хоча і набагато кращої якості на складних задачах, а на простих - різниця не суттєва).
.
Відеокарт з 24 Гб памяті - випущено всього три.
GeForce 3090 (дає умовно 40 токенів на секунду)
GeForce 4090 (+50% швидкості генерації токенів, + 100% вартості)
GeForce 5090 (+100% швидкості генерації токенів, + 500% вартості)
.
Скільки токенів можна намайнити за місяць:
100 млн токенів - на найдешевшій відеокарті (на 3090).
200 млн - на найдорожчій (на 5090).
.
А, це - вже цікаві, промислові кількості.
Можна ставити генерацію відео.
Або OpenBot для примітивних задач, напр з обробкою тексту чи звуку.
Або, обробку дзвінків за вчора, чи парсинг сайтів з лідами.
І заодно - грітись (350 Kw).
.
Якщо порівнювати з покупкою найдешевших (але співрозмірних по якоссті) токенів на OpenRouter, то їх можна купувати умовно по $1 за 1 млн токенів.
Якщо пристойних, гарних токенів (Gemini Flash) - вже по $2.5.
Якщо найкращих (Claude Opus 4.6) - по $25.
.
Електрики спалить:
3090 - на 240 kw ( $25 )
5090 - на 300 kw ( $30 )
Токенів намайнить:
3090 - на $75 ($100 токенів мінус $25 електрика)
5090 - на $170 ($200 токенів мінус $30 електрика)
Це вже схоже на кращі часи майнінгу Ефіру.
Але токени ви не продасте і не накопичите.
Продати можна лише результат, який отримаєте з їх допомогою, наприклад - 1000 відправлених емейлів, персоналізованих під кожного ліда.
.
Важливо розуміти, токени на відеокарті - більш примітивні.
І їх використаєш лише для певних простих задач.
.
Але дуже умовно - окупність відеокарти в компютері:
3090 - за 8 місяців.
5090 - за 24 місяці.
.
Дуже умовні цифри.
Дуже-дуже.
Бо є обмеження якості (практичній застосовності) моделей, які запускаються на 24 гб, в порівнянні з промисловими, які крутяться на 196 гб.
.
То чи доцільно брати відеокарту?
.
Так, якщо, думаєте, що рано чи пізно захочете розгорнути приватну "Базу Знань" всередині офісу, і щоб ніяка LLM не навчалась на ваших даних.
.
Так, якщо плануєте крутити щось таке, чим не плануєте ділитись.
.
Так, якщо є задачі, які не критичні по часу, наприклад, обробити всі CRM за вчора, і замість того щоб віддати платним моделям - то запустіть на ніч, нехай крутяться.
До речі, у більшості провайдерів (напр OpenAI), можна отримати знижку 50% на токени, якщо сказати: "мені не терміново, але оброби протягом 24 год".
.
Якщо планували брати відеокарту - то треба брати зараз.
Подорожчали на ~50% за останні півроку.
На них встановлено море памяті, і враховуючи як дорожчає память (~3-5 раз за півроку), то можливо (але не факт) що ще підростуть, і стануть ще менш доступними.
.
Всі інші запчастини до компютера - не критичні для LLM.
Що з цим робити далі
Зробити самому
Візьміть один процес у своїй компанії і перевірте на ньому одну тезу звідси: тиждень такої перевірки скаже більше, ніж ще десять прочитаних статей.
Коли має сенс оргсхема
Коли процесів більше, ніж встигаєте перевірити руками, і незрозуміло, з якого відділу почати. Оргсхема показує компанію зверху і підказує, де AI дасть віддачу першою.
Пов'язані матеріали
Схоже за темами — підібрано автоматично
- Нотатка
Мій досвід з $500 підпискою ChatGPT.
- Есе
Пройшов рік з моменту як на мене спрацювала геніально-результативна рекламна компанія від Perplexity.
Як зроблено. Це мій пост у Facebook від 12.02.2026, збережений тут без змін.
Якщо хочете розібрати свою задачу — напишіть мені в Telegram: t.me/YaroslavMaxymovych