人間がコントロールできないＡIが出現する可能性は？

プログラムの自動生成の研究からさらに進んで、人工知能が自ら下した判断によって自分自身を更新することができるようになるでしょうか？学習スピードが上がって、世の中に対する理解度が高まれば、高い能力をもった人工知能を作ることは可能でしょうが、もし、自己を改変し、人工知能が新たに進化した人工知能を作り出すことができるようになれば、人間がコントロールできなくなる可能性があります。

従って、このような自己進化を許すような研究は、将来、倫理的に規制されるかもしれません。また、人工知能が自己を改変するためには、人工知能自体がそのような意志や目的を持つことが必要になると考えられます。まだ、人間の脳の働きも生命科学の観点で十分に解明されたわけではありません。コンピュータが自我や意識をもつためには、新たにいくつもの技術的なブレークスルーが必要になってくると考えられます。