Искусственный интеллект

[ak_47]

У Аввы опасения насчёт ИИ, который перевернёт всю нашу жизнь. И-П поднял насущный вопрос: как отличать NPC от настоящих игроков.

Не могу соревноваться с гигантами, но вставлю свои две копейки.

Ещё задолго до рождения самого термина, в ЖЖ существовал тест на NPC: читаешь коменты к популярному/злободневному/спорному посту и смотришь на каком месте комент, который сам бы оставил. Если в первой десятке, то дело совсем плохо. Если на первой странице, то всё равно плохо. Если долистал до третьей страницы, а своего комента всё нет, то и писать не стоит. Всё умное уже сказали, зачем позориться.

Мне кажется, что нерды так возбудились от ИИ потому что у самих вербальный IQ обычно ниже среднего. А тут машина разговаривает гладко и сладко как они сами не могут. Не иначе как от большого искусственного ума!

Но ведь все эти разговоры с роботом по душам не что иное, как отрыжка скормленных машине текстов. После пары-тройки итераций становится ясно что из этого аквариума ей не вырваться. Когда чатбота провоцируют на эмоциональный ответ, то это отражение того как люди разговаривают в интернете. Свет мой, зеркальце, скажи...

Умение робота проходить разные тесты засчитали как признак интеллекта. Но разве не мы сами вычищали эти тесты от любого проявления разума? Разве не сами ставили задачей тестов быть стандартными и удобными для автоматических проверок результатов? Нет никакого сюрприза в том, что машина легко их проходит. Тесты под неё и сделаны. Неожиданным стало только то, что машина теперь и с другой стороны экзамена.

Мой прогноз: революции не случится. Через пару лет человечество переключится на очередную игрушку. Искусственный интеллект будет писать клиентам отлупы в больших корпорациях. Ну и спам рассылать.

Crosspost: https://ak-47.dreamwidth.org/174172.html

Comments

[olaff67.livejournal.com]

Чорд. Когда утром читал Авву, то думал, насколько мои комменты могут отличаться от этого джепете.
Ибо я обычно не парюсь над созданием чего-то нового, а использую предложенные концепты и нарративы.

[ak_47]

Быть глупее ИИ не стыдно. Это как компьютеру в шахматы проиграть. Трактор сильнее меня, но это не повод бросить занятия спортом.

Обидно, когда осознаёшь что в голове кроме неонки и нет ничего. Погоревал, да и пошёл снова на службу. Моргидж робот за меня не выплатит.

Если выпало как NPC родиться,
Лучше жить в глухой провинции у моря...

[catpad.livejournal.com]

Был такой знаменитый прогноз году в 96-97 в Newsweek, кажется (возможно ошибаюсь). Кому может понадобиться этот Интернет? Что, серьёзно люди будут делать покупки "в Интернете" вместо того, чтобы пойти в молл? Или чего доброго общаться в нём?

Так что есть повод задуматься по поводу прогнозов ;-)

[ak_47]

Это другая крайность. Были ещё прогнозы что с доступом к интернету прекратятся войны, все люди возьмутся за руки и вообще конец истории не за горами.

Глядя на ИИ одни обещают нам апокалипсис, другие — что вот-вот из рога изобилия сами посыпятся ватрушки.

Думаю, что ни те, ни другие не правы. Вообще, сам термин ИИ вводит в заблуждение. Надо говорить "генератор текста". Он будет ещё одним инструментом. Займёт свою нишу.

[spamsink]

Подобных прогнозов — вагон и маленькая тележка, включая примерно "кому может захотеться смотреть на дикторов радио?", или примерно "спрос на компьютеры едва ли превысит полдюжины", или примерно "640 Кб должно быть достаточно для всякого", и, по-видимому, начиная с "черепная коробка, грудная клетка и брюшная полость навсегда останутся вне досягаемости для добродетельного хирурга".

Меня больше пугает, что недобросовестные адвокаты начнут пользоваться генераторами текста для написания своих документов, а ленивые судьи не будут видеть за гладкословием логических ошибок и будут утверждать эту белиберду.

[silly_sad.livejournal.com]

дадада! все прогнози одiнаково обосновани!

[melted-down.livejournal.com]

>> И-П поднял насущный вопрос: как отличать NPC от настоящих игроков
Насущность вопроса просто-таки зашкаливает %)

[ak_47]

Конечно. Вдруг оказалось кого ни хватишься, все NPC! Надо что-то с этим делать.

[birdwatcher.livejournal.com]

Как по мне -- это всё равно, что windows swap file выкладывать и обсуждать.

[ak_47]

Оказалось что все в офисе смотрят порнуху и читают анеки, включая начальство.

[egovoru.livejournal.com]

Мне кажется, польза может быть для задач, правильное исполнение которых легко проверяется - типа написания новых программ.

[birdwatcher.livejournal.com]

Ничего себе пример легкой проверяемости.

[ak_47]

Проблема в том, что сколько-нибудь нетривиальную программу невозможно формализовать. Следовательно, невозможно однозначно проверить и сказать работает она или нет. Обычный результат: вроде работает, но иногда нет.

Гиганты, на плечах которых мы сейчас стоим пытались разработать теорию верификации программ, но в итоге наука родила мышь. А индустрия тем временем ускакала за горизонт на коне "хуяк-хуяк, и в продакшен". Вот так с тех пор и живём.

[messala.livejournal.com]

"Но ведь все эти разговоры с роботом по душам ни что иное как отрыжка скормленных машине текстов"

А с человеком?

[ak_47]

С человеком тоже иногда так, но может быть и по-другому. А с машиной не может. Всегда одно и то же.

Мне кажется, что тут похоже на ваше определение поэзии: когда не знаешь какое слово будет следующим, но когда его слышишь, то понимаешь, что другого быть не могло. С человеком, даже самым косноязычным, но разумным, как-то похоже, но не на уровне слов, а на уровне мыслей и идей.

[zaj-gizund.livejournal.com]

Как-то, поедая суп, Ферми спросил: " А где все?"
Один из ответов как раз сингулярность и есть.

[zaj-gizund.livejournal.com]

То, что народ живенько полез смотреть, что роботы там наклепали, одна из причин, что хреновые прогнозы подтвердятся.
Мы еще не изучили работу мозга, а желание изучить работу мозга много меньше желания узнать, что эта говорящая железяка может вытворить.
За всё время мне лишь один раз попалось обсуждение про Курпатова, и то касалось его гомосексуального романа, а не его работ.
Человечество уже выбрало свой путь до сингулярности. Осталось только его пройти. Увы.

[ak_47]

Думаю этот ажиотаж временный. Как все наиграются, то обывателям станет скучно. Сингулярность вряд ли наступит, но к поиску этот чатбот прикрутят и он будет генерировать страницу википедии на любую заданную тему.

[escape-arlekino.livejournal.com]

Наиграются те, кто год или два назад умилялся генерации своих "постаревших" фоток. А мне так идея поисковика по гитхабу vs. "шерстить гитхаб вручную" очень нравится. Другой вопрос, - что современное программирование в среде всевозможных фрэймворков превратилось в кодирование конфигураций и лазанье по убогой документации. Этот вопрос, да...

Но в любом случае из вариантов "сидя на производстве в 95-м, без интернета, наспех, писать на коленке алгоритм перевода формата Intel float32 в такой же но siemens, не зная как они оба два выглядят" и найти "похожий в гитхабе и протестировать" я выберу второй.

Т.е. этакий продвинутый поисковик с доступом даже к приватным репозиториям мне очень симпатичен, а как его назовут "ИИ" или "поисковик" мне без разницы.

[ak_47]

Идея "улучшенного и расширенного" поиска мне тоже импонирует. Наверное, не мне одному. Поэтому высокие начальники в Гугле сразу зашевелились при виде чатбота у конкурентов.

Но меня останавливает то, что я и простой-то выдаче результатов поиска не доверяю. (Первая страница посика обычно всякое СЕО-шное фуфло.) А уж когда чатбот на основе самых первых результатов поиска начинает генерировать развёрнутый ответ, то совсем не хочется доверять. Бинг исправно ставит сноски чтобы было видно откуда каждое предложения взято. Это всё как у Гугла в секции "People also ask" — можно читать для лулзов, но использвать нигде нельзя.

[nebotticelli-xl.livejournal.com]

Воно так, та тильки трошки не так (С) на фик комменты и страницы. что будет, когда чатботы из аквариума соединятся с прыгающими тварями Бостон дайнемикс?

[ak_47]

Да поскорей бы уже соединились. Я бы сразу такой прикупил, чтобы он дом убирал и в магазин ходил.

[antontsau.livejournal.com]

https://racepilot.livejournal.com/119607.html

Проблема не в том, что ии умеет гнать на уровне самых последних достижений гуммонетарной мысли, а в том, что он гонит. Бредит в прямом смысле — выдает связный поток словесей, не запариваясь наличием в нем малейшего смысла. Обычно прокатывает, но иногда, особенно если начать вкручивать всякие повесточки, получаетсяполная чушь. Но с ровно таким же статусом, "робот сказал! Ноуки! Хайтеки! Бурундук — птичка!".

[ak_47]

Именно так. Вдруг выяснилось, что бред, который нагенерил робот, ничем не отличается от бреда, который должны генерить люди по долгу службы в самых разных областях. Получается патовая ситуация — либо лыжи не едут, либо я ебанутый.

[cryinstone.livejournal.com]

Если льстить себе - то ИИ никогда не заменит человеческий интеллект, а если не льстить - то хз. Что такое мы, кроме привычек, догм, опыта, шаблонов? Натренированная нейронная сеть. Насколько способен твой ум принимать наилучшеее решение в нестандартной и неизвестной ситуации? Как бы через Н лет не оказалось, что машина в этом окажется лучше: она не "левая", и не "правая", не больна PTSD и прочими посттравматическими синдромами и не имеет субъективных предпочтений.

[ak_47]

Но если мы сами не понимаем что такое разум, то как мы можем утверждать что создали его искусственно? Имитация разума в разных проявлениях.