Искусственный интеллект

[ak_47]

У Аввы опасения насчёт ИИ, который перевернёт всю нашу жизнь. И-П поднял насущный вопрос: как отличать NPC от настоящих игроков.

Не могу соревноваться с гигантами, но вставлю свои две копейки.

Ещё задолго до рождения самого термина, в ЖЖ существовал тест на NPC: читаешь коменты к популярному/злободневному/спорному посту и смотришь на каком месте комент, который сам бы оставил. Если в первой десятке, то дело совсем плохо. Если на первой странице, то всё равно плохо. Если долистал до третьей страницы, а своего комента всё нет, то и писать не стоит. Всё умное уже сказали, зачем позориться.

Мне кажется, что нерды так возбудились от ИИ потому что у самих вербальный IQ обычно ниже среднего. А тут машина разговаривает гладко и сладко как они сами не могут. Не иначе как от большого искусственного ума!

Но ведь все эти разговоры с роботом по душам не что иное, как отрыжка скормленных машине текстов. После пары-тройки итераций становится ясно что из этого аквариума ей не вырваться. Когда чатбота провоцируют на эмоциональный ответ, то это отражение того как люди разговаривают в интернете. Свет мой, зеркальце, скажи...

Умение робота проходить разные тесты засчитали как признак интеллекта. Но разве не мы сами вычищали эти тесты от любого проявления разума? Разве не сами ставили задачей тестов быть стандартными и удобными для автоматических проверок результатов? Нет никакого сюрприза в том, что машина легко их проходит. Тесты под неё и сделаны. Неожиданным стало только то, что машина теперь и с другой стороны экзамена.

Мой прогноз: революции не случится. Через пару лет человечество переключится на очередную игрушку. Искусственный интеллект будет писать клиентам отлупы в больших корпорациях. Ну и спам рассылать.

Crosspost: https://ak-47.dreamwidth.org/174172.html

Comments

[olaff67.livejournal.com]

Чорд. Когда утром читал Авву, то думал, насколько мои комменты могут отличаться от этого джепете.
Ибо я обычно не парюсь над созданием чего-то нового, а использую предложенные концепты и нарративы.

[ak_47]

Быть глупее ИИ не стыдно. Это как компьютеру в шахматы проиграть. Трактор сильнее меня, но это не повод бросить занятия спортом.

Обидно, когда осознаёшь что в голове кроме неонки и нет ничего. Погоревал, да и пошёл снова на службу. Моргидж робот за меня не выплатит.

Если выпало как NPC родиться,
Лучше жить в глухой провинции у моря...

[olaff67.livejournal.com]

Да, по эрудиции и энциклопедичности мы уже отстали, а вот по уму…
Еще лет двадцать назад мне университетский товарищ, там и оставшийся на научно-преподавательской работе, рассказывал, что ему его технические коллеги говорили об особой ценности не тех, кто умеет решать поставленную задачу, а тех, кто умеет эту задачу поставить и правильно сформулировать.

[catpad.livejournal.com]

Был такой знаменитый прогноз году в 96-97 в Newsweek, кажется (возможно ошибаюсь). Кому может понадобиться этот Интернет? Что, серьёзно люди будут делать покупки "в Интернете" вместо того, чтобы пойти в молл? Или чего доброго общаться в нём?

Так что есть повод задуматься по поводу прогнозов ;-)

[ak_47]

Думаю что будет как с сибирскими мужиками и японской бензопилой. Уже сейчас видно, что силы слишком неравны. Пилу надо постоянно ограждать от слишком буйных активных пользователей. При приближении к рельсе пила теперь отказывается заводиться.

[melted-down.livejournal.com]

>> И-П поднял насущный вопрос: как отличать NPC от настоящих игроков
Насущность вопроса просто-таки зашкаливает %)

[ak_47]

Это другая крайность. Были ещё прогнозы что с доступом к интернету прекратятся войны, все люди возьмутся за руки и вообще конец истории не за горами.

Глядя на ИИ одни обещают нам апокалипсис, другие — что вот-вот из рога изобилия сами посыпятся ватрушки.

Думаю, что ни те, ни другие не правы. Вообще, сам термин ИИ вводит в заблуждение. Надо говорить "генератор текста". Он будет ещё одним инструментом. Займёт свою нишу.

[ak_47]

Конечно. Вдруг оказалось кого ни хватишься, все NPC! Надо что-то с этим делать.

[melted-down.livejournal.com]

Да оно уж лет 10 так минимум %)

[ak_47]

Но все приличные люди делали вид, что не заметили. А тут вдруг мальчик показал пальцем "а HR–то голый!" и все оконфузились.

[birdwatcher.livejournal.com]

Как по мне -- это всё равно, что windows swap file выкладывать и обсуждать.

[ak_47]

Оказалось что все в офисе смотрят порнуху и читают анеки, включая начальство.

[spamsink]

Подобных прогнозов — вагон и маленькая тележка, включая примерно "кому может захотеться смотреть на дикторов радио?", или примерно "спрос на компьютеры едва ли превысит полдюжины", или примерно "640 Кб должно быть достаточно для всякого", и, по-видимому, начиная с "черепная коробка, грудная клетка и брюшная полость навсегда останутся вне досягаемости для добродетельного хирурга".

Меня больше пугает, что недобросовестные адвокаты начнут пользоваться генераторами текста для написания своих документов, а ленивые судьи не будут видеть за гладкословием логических ошибок и будут утверждать эту белиберду.

[egovoru.livejournal.com]

Мне кажется, польза может быть для задач, правильное исполнение которых легко проверяется - типа написания новых программ.

[birdwatcher.livejournal.com]

Ничего себе пример легкой проверяемости.

[messala.livejournal.com]

"Но ведь все эти разговоры с роботом по душам ни что иное как отрыжка скормленных машине текстов"

А с человеком?

[ymarkov.livejournal.com]

Хорошо, что в суде пока что требуется выступать устно.

А вот проверять тексты контрактов, на что сейчас уходят килочасы работы начинающих адвокатов, ИИ вполне может, ИМХО. (Сам постоянно читаю контракты, хоть и не адвокат.)

[olaff67.livejournal.com]

Как ты сказал, наиграются скоро.

[spamsink]

Выступать-то устно, но над пресловутыми closing statements, призванными проходить через bullshit filter присяжных и нажимать им на разные эмоциональные кнопки, теперь адвокаты — ну и прокуроры тоже, впрочем — могут не корпеть всю ночь, а заказать у ИИ, в который загружен весь LexisNexis.

[zaj-gizund.livejournal.com]

Как-то, поедая суп, Ферми спросил: " А где все?"
Один из ответов как раз сингулярность и есть.

[zaj-gizund.livejournal.com]

То, что народ живенько полез смотреть, что роботы там наклепали, одна из причин, что хреновые прогнозы подтвердятся.
Мы еще не изучили работу мозга, а желание изучить работу мозга много меньше желания узнать, что эта говорящая железяка может вытворить.
За всё время мне лишь один раз попалось обсуждение про Курпатова, и то касалось его гомосексуального романа, а не его работ.
Человечество уже выбрало свой путь до сингулярности. Осталось только его пройти. Увы.

[ak_47]

Проблема в том, что сколько-нибудь нетривиальную программу невозможно формализовать. Следовательно, невозможно однозначно проверить и сказать работает она или нет. Обычный результат: вроде работает, но иногда нет.

Гиганты, на плечах которых мы сейчас стоим пытались разработать теорию верификации программ, но в итоге наука родила мышь. А индустрия тем временем ускакала за горизонт на коне "хуяк-хуяк, и в продакшен". Вот так с тех пор и живём.

[ak_47]

С человеком тоже иногда так, но может быть и по-другому. А с машиной не может. Всегда одно и то же.

Мне кажется, что тут похоже на ваше определение поэзии: когда не знаешь какое слово будет следующим, но когда его слышишь, то понимаешь, что другого быть не могло. С человеком, даже самым косноязычным, но разумным, как-то похоже, но не на уровне слов, а на уровне мыслей и идей.

[ak_47]

Думаю этот ажиотаж временный. Как все наиграются, то обывателям станет скучно. Сингулярность вряд ли наступит, но к поиску этот чатбот прикрутят и он будет генерировать страницу википедии на любую заданную тему.

[escape-arlekino.livejournal.com]

Наиграются те, кто год или два назад умилялся генерации своих "постаревших" фоток. А мне так идея поисковика по гитхабу vs. "шерстить гитхаб вручную" очень нравится. Другой вопрос, - что современное программирование в среде всевозможных фрэймворков превратилось в кодирование конфигураций и лазанье по убогой документации. Этот вопрос, да...

Но в любом случае из вариантов "сидя на производстве в 95-м, без интернета, наспех, писать на коленке алгоритм перевода формата Intel float32 в такой же но siemens, не зная как они оба два выглядят" и найти "похожий в гитхабе и протестировать" я выберу второй.

Т.е. этакий продвинутый поисковик с доступом даже к приватным репозиториям мне очень симпатичен, а как его назовут "ИИ" или "поисковик" мне без разницы.