Греби токены лопатой

[ak_47]

Интересная новость. Единицы вычисления (не знаю как перевести compute) теперь будут торговаться на бирже как прочие товары: CME Group and Silicon Data Partner to Launch First Compute Futures.

Те, у кого работа хоть как-то связана с компьютерами, уже знают что сейчас из-за огромного спроса на ИИ индустрия переживает дефицит компьютерных мощностей. Игроки покрупнее зарезервировали себе какие-то мощности у облачных провайдеров; другим приходится выкручиваться.

Говорят, история развивается по спирали. И ещё говорят что ИИ токены это новая нефть. Сразу представляю как фермеры строят стойки с серверами и продают урожай на бирже. Или у кого-то остались мощности от майнинга крипты, так теперь эти GPU как своя нефтяная вышка в Техасе сто лет назад.

Может написать апп, который будет продавать compute со скринсейвера? И на эти 2% жить...

Comments

[sobriquet9]

Майнинг крипты делают на специализированных ASIC, для этого GPU слишком дорого и медленно. Эти ASIC ничего другого не умеют.

[ak_47]

Ну это совсем у крутых, наверное. Я видел в сети как люди собирают шкафы с видеокартами от NVIDIA чтобы майнить. Или такая кустарщина уже в прошлом?

[sobriquet9]

Ситуация меняется в зависимости от цен (в биткойнах) на электричество, GPU и специализированные ASIC майнеры в конкретном месте, но в большинстве случаев получается что на GPU майнить нет экономического смысла. Затраты получаются больше результатов.

[ak_47]

Понятно.

Я где-то год или около назад видел объявления людей, которые продавали б/у машины для майнинга. Просили многие тысячи. Наверняка купили сильно дороже. Не очень себе представляю кто бы мог купить такую машину сегодня. Если только, действительно, как-нибудь под ИИ не приспособят.

[birdwatcher]

"The exponential growth in spending on data centers as we move towards that reality has been hampered by the lack of a hedging vehicle."
Ну теперь всё будет в порядке.

[ak_47]

И ведь нельзя сказать что он неправ!

[birdwatcher]

Это Дон Вильсон, DRW. Меня туда не взяли аж два раза, с большим перерывом!

[ak_47]

Когда-то давно я подавался в Амазон. Но не разобравшись в их титулах, подался на какой-то высокий пост. Пригласили на интервью, но в итоге не взяли. Когда я рассказал одному своему знакомому об этом, то он очень меня зауважал, узнав на какую позицию меня интервьюировали.

Потом будем рассказывать внукам куда нас не брали. Бойцы поминают минувшие дни.

[birdwatcher]

Именно!

[ymarkov]

Припоминаю что-то такое: можно было установить у себя скринсейвер, который производил какие-то вычисления для SETI. Почему бы и нет?

[ak_47]

Ага, у меня даже такой был.

Но в итоге доведут опенсорсные модели до такого уровня, что они смогут работать на локальной машине и давать 90% производительности от платных. Тут-то и надо будет шортить фьючерсы компьюта!

[krivye_ru4ki]

> стались мощности от майнинга крипты, так теперь эти GPU как своя нефтяная вышка в Техасе сто лет назад

Не факт, крайне не факт. Эфир можно было майнить на простых видеокартах, но там видео были типа RTX 3060Ti, а 3090 были слишком дорогими и окупались долго, 24 гигабайта не требовалось, требовалось 3-4 гигабайта, что ли. А для LLM и 24-то маловато.

[ak_47]

Может быть приспособят как-то. Не выкидывать же рабочий инструмент. Будет как с нефтью, вычислительные мощности высшего сорта, попроще, и вплоть до старых платформ для майнинга.

[vythe]

А потом кто-нибудь хакнет этот скринсейвер и будет тягать из него данные для обучения собственных доморощенных ИИ. Тут-то Амазон с Микрософтом и заколдобятся.

Первая проблема ИИ общеизвестна, это потребность к железячных ресурсах, много. Но вторая проблема ИИ это защита данных - как бы так исхитриться, чтобы ИИ отдавал тебе чужие знания, а на твоём бесценном опыте нисколько не учился. И вот тут приходится верить джентльменам на слово.

Но если твои промпты будет обрабатывать писюк в далёких горах Нарнии - о какой конфиденциальности можно вообще говорить?