zorgeo

если ИИ пишет программу, то не факт, что она будет работать, а если и будет, то не факт, что правильно.

а как проверить? можно, конечно, вручную. но заманаешься. ИИ плодовит. заставить другой ИИ перепроверить? но это как с драконами у Лема, тупиковая индукция.

если ИИ написал книжку/картину/симфонию, то вообще беда. хорошая ли она получилась? кто будет решать? редактор? арт-директор? может быть, посчитаем выручку от продаж? непонятно.

иное дело, если мы верифицируем лично, каждый для себя, причем на самом базовом уровне пирамиды.
робот, под управлением ИИ, посеял хлеб, сжал, смолотил и испёк булочку. съедобная ли она? вкусная ли?

можно ли купить боржоми на деньги, сгенерированные ИИ? можно ли носить одежду, возникшую, ну скажем прямо, волшебным образом?

кажется, что на самом базовом уровне верифицировать всё-таки можно. не сдох - значит хорошая, годная булочка.

хотя и это не факт. а нет ли в той булочке вредных добавок?

опасность магии - именно в том, что мы не понимаем, хорош ли ее результат.