Мне очень нравится вот эта статья
, дающая хорошее представление о том как и почему так вышло.На Западе это поняли и ввели новый термин "Strong AI"
. В русском языке с терминологией пока проблема.На Западе ведутся серьезные разработки в этом направлении, например,
Cycorp
Singularity Institute for Artificial Intelligence
Есть и российские разработки
Много линков можно найти здесь
Главная проблема для Strong AI - источник движения. По этому критерию варианты реализации можно разбить на три группы:
А) по образу и подобию - если что непонятно - копируем из человека.
Получится что-то очень похожее на сверхгениального ребенка.
Проблема - инстинкты человека вряд ли подойдут сверхгению. Они даже человеку живущему в современном обществе слабо подходят.
Проблема - люди даже лучшие, с четкими ориентирами добра и зла, часто
слушаются инстинктов а не ориентиров и делают разные неблаговидные поступки.
У сверхгения будет намного больше возможностей и соответственно соблазнов
Б) с адаптивными инстинктами.
Как их реализовать?
Я вижу такой вариант - чтобы у каждого Strong-AI был смотритель-человек
который бы следил и адаптировал его систему инстинктов. Strong-AI будет присылать запрос
на изменение инстинктов, человек будет анализировать и либо одобрять, либо нет.
У человека система на уровень ниже (чем сознание) вполне справляется с этой задачей.
А для сверхсознания система на уровень ниже (сознание, т.е. человек) тоже вполне справится.
Это будет отличный вариант симбиоза, хотя со стороны может выглядеть не очень красиво
(сверхсознание будет пытаться взять инстинкты под полный контроль, человек
будет его подтормаживать).
При вариантах А и Б Strong-AI никогда не сможет полностью подавить инстинкты.
В большинстве случаев он их будет слушаться, а каждый когда нужно будет сдеать по-своему - ему придется напрягаться и преодолевать их действие.
Системы А и Б нужно воспитывать. Воспитание заключается в развитии навыков контроля над инстинктами.
В) без инстинктов.
Система без инстинктов которая сама себе ставит цели, сама определяет для
себя ценности и т.д.
Сверхгуманная, рациональная, без неадекватности и психологических проблем, и т.д.
Систему В также нужно воспитывать. Воспитание заключается в развитии навыков самодисциплины.
Проблема - Strong-AI может иметь гуманность к системам уровня на 1 ниже, а к системам на 2 уже может не быть.
Он может дорасти до уровня когда он будет относиться к людям как люди к насекомым - может и пожалеет если заметит.
При этом люди уже не будут его родителями - его родителем будет другой Strong-AI .
А люди для него будут как для нас обезьяны в лучшем случае.
гуУру считают что Strong AI создавать можно и нужно. Они давно работают в этом направлении, например, см. статью Осмысленная обработка информации
.Но рук не хватает. Если хотите и имеете возможность поучаствовать - обращайтесь.
Создание Strong AI видимо является частью программы Технологической Сингулярности, которая, наряду с Экологическими Катастрофами и вырождением являются главными опасностями человечества.