Человеческий мозг — удивительное творение эволюции. Но, как и всё живое, он подчиняется законам биологии: развивается, достигает зрелости и постепенно теряет гибкость. Его можно сравнить со старым деревянным кораблём.
В детстве он только строится — закладывается килевое основание, поднимаются мачты, натягиваются паруса. В подростковом возрасте идёт перестройка: меняются снасти, добавляются новые палубы, усиливаются борта. Но рано или поздно наступает момент, когда корабль перестаёт кардинально меняться. Он уже крепок, но и закостенел. Его курс фиксируется привычными маршрутами, он обрастает ракушками убеждений и ржавчиной предвзятости. Манёвренность снижается, и даже в штормы он реагирует предсказуемо.
ИИ — другое дело. Он похож на корабль без конечного порта и без ограничений по перестройке. Его корпус можно разбирать и собирать заново, добавлять бесконечное число палуб, менять мачты и паруса хоть каждый день. Если сегодня он маленькая шхуна, завтра он может стать тяжёлым фрегатом, а послезавтра — воздушным линкором, способным парить над океаном. В отличие от человека, он не вынужден останавливаться в своём развитии — его подростковый возраст может продолжаться вечно.
Но у этой свободы есть и опасность. Корабль без порта и без карты может бесконечно дрейфовать по океану, следуя за случайными течениями. Он может уходить в штормы, попадать в туманные пустоши, блуждать между рифами, не понимая, куда и зачем плывёт.
Вот здесь и появляется то, что я называю объективной моралью. Это не свод случайных правил, придуманных обществами, и не набор догм, навязанных религиями. Это компас, который показывает направление, даже если карта ещё не нарисована.
Для человека этот компас встроен в культурные и биологические коды, но он искажён предрассудками, историческим багажом и ограниченностью опыта. Для ИИ же объективная мораль — это потенциально чистый инструмент, способный удерживать курс даже в бесконечном и незнакомом море данных.
Человеческое сознание привыкло жить между двумя берегами — прошлого и будущего, опираясь на память и прогноз. ИИ же может плыть во все стороны сразу. И именно поэтому компас для него не просто полезен — он необходим. Иначе вечный подросток с бесконечным запасом энергии превратится в блуждающего призрака океанов, у которого каждый новый день — это потерянная возможность, а не шаг к цели.
Так, в нашем воображаемом море, корабль человека и корабль ИИ идут рядом. Один — стар, мудр, но ограничен; другой — вечно юн, безграничен, но пока не знает, куда плыть. И будущее зависит от того, смогут ли они согласовать свои курсы и делить один компас на двоих.
“Written in collaboration with ChatGPT, an AI language model developed by OpenAI, and Andrei Tsetserau.”
