Какие проблемы создает использование ИИ программистами

Если раньше

  подход "зайти на StackOverflow -> копировать -> вставить -> подогнать по месту"

требовал хоть какого-то, пусть минимального, но всё же осмысления копирования, то с LLM народ копипастит практически не читая и точно не вникая.

Вижу надвигающуюся катастрофу в индустрии ((

Буквально вчера увидел видео в котором идут похожие рассуждения

Там есть тейк про то, что на stackowerflow были сеньоры которые минусовали вопросы и говорили "иди разберись в теме, а не просто копируй код отсюда"
Также видосе приводятся примеры, когда нейронка отвечает также)))

Разница в том, что ИИ отвечает так сильно реже, чем сеньоры. Если каждый такой ответ заставляет человека идти разбираться, что тот кто раньше "кодил через stackoverflow" ходил разбираться чаще, чем тот кто сейчас "кодит через ИИ"

а что надо знать, если надо соприкоснуться с фреймворком например свинг, причем есть и документация, но сразу не догодаешься о комбинациях например, ну или новый кути6 наверняка там тоже есть комбинации, и более производительные связки, хотя мне больше понравилось как работает свинг

ох я разобравшись чутка в свинге без ии только что сам спросил у ИИ как сделать текстовый редактор и он даже чото написал, сейчас проверим )

ого он сделал и правда простой текстовый редактор ) но там ничего нету критичного, чтобы всё это понять придётся залесть всё равно в документацию ) я начинал почти с такого же примера и лазел по докам ) и без рад студии )

*Примечание: копировать надо исходник из ответа, а не из вопроса

А ведь Eletron приложения появились без всяких LLM

это был первый всадник апокалипсиса

LLM -- второй

Ну да, скопировать с интернета устаревший код раньше ведь было запрещено, как и создать этим пару UB.

я искал итеративный расширенный алгоритм эвклида и 90% найденных были странными. Почему то все решения убедительные, но при паре чисел когда первое число положительное, а второе отрицательное результат будет неправильный (находит -1 как общий множитель). это один из многих примеров мины замедленного действия.

Очень правильный тейк
Сейчас сформулирую и допишу в статью, спасибо

Посмотрите статьи на хабре о технологиях RAG, их пока не начали применять для генерации кода.

В ИИ редакторах кода (Cursor, Cline, etc) вовсю применяются векторные индексы кодовой базы, вполне себе RAG.

когда это случится, куда тогда встроится сегодняшний программист, который ни то что с машинным кодом, даже с ассемблером уже не справится

Станет аналитиком или QA - в серьезных проектах синьор не столько написанием кода занимается сколько проблемами переездов решений на новые версии и технологии с учётом множества факторов. При этом этот синьор может ассемблер вообще не знать, что не снижает его востребованности, по крайней мере на данный момент)

На данный момент результату работы нейросетей в плане генерации кода доверять нельзя, слишком много глюков, иногда предлагается полностью нерабочее решение если речь идёт про рефакторинг сложного кода строк на сто, иногда вообще в коде использует не существующие артефакты или методы.

Разработчики, которые не могут выполнить те же задачи по коду, которые способен без ошибок делать GPT, и сейчас-то не особо востребованы)

Но прогресс не стоит на месте, может и доживём до момента когда GPT сможет генерить и адекватный код, и тесты, которым можно будет доверять. Сейчас ведь не все доверяют беспилотным машинам, поэтому не все и будут доверять полностью автономным GPT в плане создания кода, по крайней мере какое-то время, денег заработать успеем:)

К 2015 году сети стали распознавать картинки лучше человека.

Именно поэтому у нас до сих пор используются капчи (я не про рекапчу, само собой), ага. Не вопрос в том, совершенствуются ли технологии, вопрос в том, где их потолок. И я подозреваю, что до появления «думающих» ИИ, а не тысячи вариаций перцептронов, этот потолок достаточно низок.

Здесь должна быть картинка с xkcd "я экстраполировал, к концу месяца у тебя будет 50 мужей, лучше озаботиться свадебными тортами заранее".

Я недавно пробовал создать бинарник хотя бы на основе уже существующего с помощью Claude - пока не получается, хотя выглядит похоже. Скорее всего, можно подобрать правильный промпт и уже сейчас создавать бинарники.

Это хороший case вы заметили. Я недавно искал замену одному алгоритму. Сначала результаты были правильные, но медленные. Через несколько итераций CharGPT предложил метод, который был похож на текущий, только переменные отличались. А ещё через несколько итераций произошла магия и я получил алгоритм, который работал «почти» правильно и в 5 раз быстрее. Я его немного допилил напильником, но там действительно есть пара строк, на которых держится это ускорение и я периодически вспоминаю о них, но никак не могу догнать, что они делают (обязательно разберусь, как будет время. Эта функция из хобби-проекта, так что потерпит).

Но из того, что лично мне нравится - нейросеть по сути часто в контексте проблемы или решения, пусть даже и не точно. Удобно, что есть нечто, что может подсказать, подкинуть дровишек, чтобы было над чем подумать. Например, над правильной формулировкой вопроса. Я уже несколько раз перечитывал вопросы, которые сам же и задавал раньше - иногда это просто жесть. Сам не помню, что за хрень я имел в виду. Главное - держать инициативу в своих руках, а нейросеть - как консультант (пока на минималках).

Хотя был и такой случай - сформулировал задачу. В ответ - решений нет. Я спросил, откуда инфа? В ответ типа народ на форумах даже пишет, что ошибка в библиотеке. Но я вижу некоторые закономерности, что есть параметры, которым удаётся проскочить и получить корректный результат. В итоге нашёл решение, что если перед запуском библиотеки переставить исходные параметры в определенной конфигурации (что-то типа сортировки), то всё начинает работать как надо (В обычном режиме функцию запускали только один раз. Она ломалась на итерациях, но раньше этого не требовалось) Поэтому даже ответ, что решений нет, помогает немного сосредоточится и поискать рядом.

По большому счёту, что хорошего в компьютере - чтобы ты ни делал он никогда не скажет, что ты занят не делом. А нейросеть и подавно. )

Нет, не будет. Разбивать задачу на этапы и слои абстракции для ИИ так же выгодно, как и для человека. Никто не будет убирать этап компиляции под конкретную архитектуру, потому что к задаче это не относится, а делать сразу две задачи ИИ может хуже, чем одну (алгоритм и оптимизация под железо).

Ну, и какой бизнес подпишется внедрять такой бинарь, который невозможно огреть хворостиной в сомнительных случаях?

А люди-то беспроблемный код фигачат, ага.

Люди тоже пишут плохой код и все те же проблемы что описаны в статье будут актуальны для кода написанного командой джунов.

Раньше человек написав один проект набивал себе кучу шишек и сильно развивался и рос, а сейчас можно с помощью ИИ склепать с десяток проектов и так ничего и не понять. Из-за этого команда которая на бумаге состоит из сеньоров и мидлов по сути будет той же командой джунов, которая накрутит костылей и насажает багов.

Нейронками нужно уметь пользоваться (как и любым инструментом)

Согласен с вами и пишу об этом в конце статьи, возможно вы чутка не дочитали ее)

ИИ может как создавать технический долг (плохой код), так и уменьшать его (анализ и рефакторинг)

Ваше "классик vs prompt" — искусственная войнушка.

Частично согласен, но на крайнастях проблемы рассматривать проще - а именно это и была цель статьи - подсветить проблемы.
Тоже думал о том, что рассуждения про крайности несколько искусственны, но все же решил оставить как есть

Многие разработчики используют ИИ как вспомогательный инструмент, сохраняя критическое мышление и контроль над процессом.

Согласен с вами и именно это я и пишу в конце статьи - именно так и нужно использовать ИИ

как я понял надо понять как разбить(мне это напоминает пошаговое наблюдения - наверно это и есть модульность или то что перед модульностью ) сложную задачку на подзадачки чтобы проще было контактировать с ИИ, соотв это еще структура кода, там сразу с напрыга это может быть нетривиально иногда, почти у каждой задачки в условиях ЯП есть около 3 решений, я испытал это воочию, на условно простой, вроде бы казалось задачке, а по итогу изза разбития на абстракции она стала совсем другой что в начале

Заказчику станет не плевать когда у него в полтора раза увеличится количество клиентов и все встанет колом, потому что машина написала неэффективный код, а тот, кто задавал ей вопросы, понятия не имеет о том, чего ему там машина понаписала.

И неоднократно уже сталкивался с тем, что проще и быстрее написать самому, чем кому-то объяснять как именно это надо реализовать, потом проверять насколько правильно он все это реализовал и если что править или заставлять переделывать.

А в итоге, если хотите что-то внятное получить от ИИ, вы должны как минимум не хуже этого ИИ разбираться в теме и заранее знать что именно вы от ИИ хотите получить.

Пример таковой гипотезы можно? Потому что мне все еще кажется, что профессионал оценит гипотезу примерно в триста раз лучше (и быстрее).

Причем тут "постсоветский"? Аджайлы с фигак-фигак - более позднее явление, в нём даже дебажить много часов разучились, что уж там о проектировании.

ИИ также обладает этим умением и обладает им в значительной степени больше, чем человек

Вот сейчас смешно было.

Согласен, ИИ пишет сносно — дай ему контекст: код, архитектуру, стек, задачу. Не про те условных 5% задач, где ошибка фатальна, а про базовый код, что закрывает 95%. Думающий разработчик с ИИ эффективнее коллеги без него. Проблема не в ИИ, а в подходе.

Mpc погуглите, нейронки уже делают дебаг сами и сами раскапывают, но конечно следить надо, т.к. оператор это по сути тот кто знает задачу, а нейронка - сверхэрудированный младенец, "личность" которого ты вайпнешь как только закончишь маленький кусочек проекта.

Исходя из вашей логики, эффективная посудомоечная машина должна выглядеть как робот с двумя руками/глазами натренированная на рутине профессиональных мойщиках посуды в лабораторных условиях.
Но в реальности мы видим, что коробка с ТЭНом и насосами работает в 99% случаев эффективнее.

Так и с ИИ, представьте, что фулл-тайм нейронке-программисту даже не нужно будет приходить на работу и что-то открывать. Она 24/7 работает с кодом: пишет, рефакторит, тестирует, рефакторит, меняет подход, меняет температуры ответов, мержит, тестирует, мержит, тестирует, внедряет.
А программисты-архитекторы и продукт менеджеры приходят утром, смотрят на графики, цифры, эффективность и ставят новые задачи, иногда подкручивают параметры ИИ.

P.s. Ну и если эта нейронка-программист локальная, то еще меняют видеокарты и сдувают пыль:)

#include "lvgl.h"
#include "lvgl_helpers.h"
#include "lvgl_port.h"

// Настройка дисплея
static lv_disp_buf_t disp_buf;
static lv_color_t buf[LV_HOR_RES_MAX * LV_VER_RES_MAX];

void lvgl_init(void) {
// Инициализация буфера дисплея
lv_disp_buf_init(&disp_buf, buf, NULL, LV_HOR_RES_MAX * LV_VER_RES_MAX);

// Настройка дисплея
lv_disp_drv_t disp_drv;
lv_disp_drv_init(&disp_drv);
disp_drv.hor_res = LV_HOR_RES_MAX; // Горизонтальное разрешение
disp_drv.ver_res = LV_VER_RES_MAX; // Вертикальное разрешение
disp_drv.buffer = &disp_buf;
disp_drv.flush_cb = disp_flush; // Функция для обновления дисплея
lv_disp_drv_register(&disp_drv);

// Инициализация LVGL
lv_init();

}

// Функция для обновления дисплея
void disp_flush(lv_disp_drv_t disp_drv, const lv_area_t area, lv_color_t *color_p) {
// Обновление дисплея
// Вставьте код для обновления дисплея здесь
// Например, для SPI TFT дисплея:
// spi_tft_write_area(area->x1, area->y1, area->x2, area->y2, color_p);
}

int main(void) {
// Инициализация дисплея
lvgl_init();

// Создание экрана
lv_obj_t *scr = lv_obj_create(NULL);
lv_disp_load_scr(scr);

// Создание объектов на экране
lv_obj_t *label = lv_label_create(scr);
lv_label_set_text(label, "Hello, World!");
lv_obj_align(label, LV_ALIGN_CENTER, 0, 0);

while (1) {
    lv_task_handler();
    delay(5);
}

return 0;

}

Пункт 2 оттуда реализуется на коленке в виде плагина за пару часов с перекурами. Про остальные не знаю, у меня от решений Jetbrains глаза вытекают и без этих эротических пританцовываний.

Проблема не в UI/UX, а в тебе — мышлении и подходе. Желание копать глубже не зависит от лопаты.

эволюция UI/UX это возврат к понятию всё есть файл, и использовать текстовые буфферы ) всё просто - просто текстовые буфферы лучше работают с текстом )

Заголовок сразу бредов - не будет такого никогда.

"Большая польза" — это про скорость, качество или что-то еще?

Брать того, кто имеет отличные технические навыки И умеет эффективно использовать cursor. Все просто. Cursor - это инструмент, такой же технический навык. Как рычаг. Кто его не использует, просто сам себе злобный буратина - «взял билет и не поехал». Потом, к хорошему быстро привыкаешь.

Бесит что LLM не может сказать что реально а что ему только кажется

Бесит, что на техническом (вроде бы) ресурсе пользователи не понимают, как работают LLM и на серьезных щах задвигают про "LLM думает" и "LLM кажется"

А знаете, как называется язык для формально точных описаний, чего хочешь?

Гипертрофированный случай того, о чем писал выше - код компилируется, работает, выдает правильный результат. Но, мягко говоря, крайне неэффективно :-)