Если коротко, то нет, потому что ИИ не мыслит, он просто выдает первый ответ, который пришел в голову. Это как общаться с человеком, который всегда говорит первое, что пришло в голову, не думая. ИИ конечно обладает намного большим массивом информации, чем человек, и это создает иллюзию его ума. Чтобы сделать такой ИИ умнее, можно отбирать только качественную информацию, долго обучать его с подкреплением, и т.п. Но этого всего сильно недостаточно. Не бывает такой базы супер качественной информации, которая научила бы ИИ, к примеру, программировать. Ведь такой ИИ все еще останется не думающим. А умение думать в программировании, даже в простой верстке страниц, очень важно, иначе он будет писать говнокод, а проекты с говнокодом будут жить недолго. Не бывает универсальной информации, которая подходила бы во всех конкретных случаях. Мыслительный процесс предполагает исследование, как минимум проверку на непротиворечивость, самокритику, сопоставление своих идей с другими фактами, моделирование будущего и управление будущим через принятие решений в настоящем. Человек этой способностью обладает, а ИИ пока еще нет, и не ясно, когда он это сможет сделать, сколько мощностей на это потребуется. Ведь даже простейший мыслительный процесс для ИИ будет равносилен 100 или более текущим его ответам. Получается, что он станет стоить раз в 100 дороже, чтобы он мог хоть сколь-нибудь подумать, поисследовать. Но и такого мысленного исследования тоже недостаточно. В науке не было бы принципа проверять все экспериментами, если бы даже ученые не ошибались в своих мысленных исследованиях или даже расчетах на бумаге. Это значит, что думающий ИИ должен будет хоть как-то проверять свои идеи на практике, получать хоть какой-то опыт. Чтобы научить ИИ программировать, его нужно будет посадить условно за компьютер и просить его писать программы, проверять их и исправлять ошибки. Но и в этом случае ИИ неизбежно будет писать говнокод, неизбежно будет допускать грубые архитектурные ошибки. Просто потому что, чтобы сделать минимально приемлемую архитектуру, необходим опыт, нужно условно написать большой сайт и месяцами его поддерживать, выполняя желания заказчика, наступая на грабли, анализируя свои ошибки, чтобы на эти грабли больше не наступать. Нет другого способа сделать хорошую архитектуру, кроме как получить опыт и наступить на все грабли. Справится ли с этим ИИ? Я думаю, даже если такой и появится, то он будет изначально писать говнокод, а затем исполнять желания заказчика еще большим говнокодом, пока проект окончательно не улетит в трубу. Поэтому запрос даже на средних разработчиков, но умеющих думать, никуда не денется. Пока ИИ может заменить только простую рутину, где есть четкая неизменная инструкция и думать не нужно, но он не может заменить те профессии, в которых требуется думать, получать какой-то опыт.
Какой там апокалипсис и Skynet, если ИИ даже думать еще не научился, и пока такой способности не видно на горизонте?
Программирующий ИИ уже пытаются сделать на основе ChatGPT — это тип программ называемый AI Agent, который пытается заставить ChatGPT программировать самостоятельно.
Он, как и ожидалось, требует очень много запросов к обычному ChatGPT и стоит дорого. Он не учится на ошибках, точнее даже сказать, он учится повторять свои ошибки, а не исправлять их. Память у него не резиновая, так что если он каким-то чудом не повторял ошибку давно, он про нее забудет. Он ничего, кроме говнокода писать не научится. Это я говорю на основе 1 года опыта попыток заставить его написать мне простые вещи, и на основе рассуждений из предыдущего поста. Сейчас он пишет говнокод еще и по той причине, что 95% всего кода в интернете — это говнокод, у него нет хорошей базы кода.
Я полгода назад писал обычный переводчик книги на ChatGPT. Даже такую простую автоматизацию нужно покрывать большим количеством сложных тестов, писать сложную систему попыток разных вариантов запросов, потому что он 1 раз из 20 отвечает неправильно. Напишешь 2-й вариант запроса, он станет неправильно отвечать 1 раз из 50 попыток. Напишешь вроде стабильную версию для одной книги, а на второй книге он снова ошибается 1 раз из 20 попыток. Не так просто заставить его всегда проходить все тесты. Даже не представляю, что нужно сделать, чтобы заставить ChatGPT написать одну простую работающую программу, а еще страшнее представить, что нужно сделать, чтобы он стал универсальным и мог писать много разных программ. По-моему, это мазохизм. Здесь нужно придумывать другие модели ИИ, а не насиловать старую в самых необычных позах, которые еще никто не пробовал.
Недавно я обучал одного джуна с 3-х летним опытом писать код по определенной архитектуре. После общения ChatGPT 4, я вижу огромную разницу: он запоминает почти все, что я говорю, думает, и довольно быстро учится писать код качественно. А ChatGPT 4 (лучшая языковая модель) — это даже не идиот по уровню интеллекта, а ниже идиота, такой шкалы для людей наверное нет.
Страшный сон программиста, когда ИИ заменит разработчиков, потому что он намного дешевле. Несмотря на то, что он пишет страшный говнокод, он все-таки кое-как выполняет свои функции, и клиенту этого достаточно… до поры до времени, пока говнокода не станет столько, что ИИ уже с ним не справится, а это произойдет очень быстро. И тогда клиент наймет разработчиков людей исправлять ошибки и дорабатывать что-то в этом страшенном говнокоде. Это будет ссущий кошмар.
Во избежание недоразумений, я ни сколько не буду переживать о том, что появится сильный ИИ, который может меня заменить, а наоборот я буду счастлив иметь в руках такой инструмент. Это даст мне огромные возможности, в том числе и в зарабатывании денег. Множество идей сейчас лежат на полке, потому что требуют много времени на реализацию. Но, к сожалению, я не вижу такого ИИ на горизонте.
На этом видео мнение от кандидата наук, работающего сейчас в сфере ИИ:
https://www.youtube.com/watch?v=2GAgMBsrpzs
