跟着人工智能的成长，越来越多的科学家起头担忧人工智能会给人类带来各类难以估计的影响，甚至可能是灾难。在近日揭幕的“TED2017”年夜会上，计较机专家斯图尔特－拉塞尔再次发出警告称，人类制造出的事物（人工智能）将可能进化得比人类更伶俐。拉塞尔建议，人类必需要在机械人内部预置不确定性，以防范它们的变节。

美国加州年夜学伯克利分校计较机传授斯图尔特－拉塞尔诠释说，固然他本人也撑持人工智能的研究，但总感受制造出一种比自身物种更为伶俐的事物并纷歧定是功德情。拉塞尔建议，为了防止机械人接管我们人类，我们必需制造出无私心的机械人，即在它们的方针使命中存在必然法式的不确定性，应该教会它们人类价值不雅方面的常识。经由过程向人工智能系统中灌注贯注“人类常识”，科学家必需从头界说人工智能，如许我们才能制造出有益的机械。

拉塞尔暗示，机械人应该按照某种法例或定律去编程，就好比科幻作家艾萨克－阿西莫夫提出的机械人三定律，以防止它们在执行使命时造成无意识的危险。艾萨克－阿西莫夫所提出的机械人三定律首要内容包罗：1）机械人不得危险人类，或因作壁上观使人类受到危险；2）在不违反第必然律的前提下，机械人必需从命人类的号令；3）在不违反第一及第二定律的前提下，机械人必需庇护本身。是以，在为机械人编程时，就必需将利他主义、谦善谨严的立场以及其它一些人类价值不雅方面的优胜性编写进去。拉塞尔认为，“这是人类与人工智能互相顺应、协调相处的第一步。”

不外，苹果Siri高级研发主管汤姆－格鲁伯对人类和人工智能的将来抱有较为乐不雅的立场。他认为，人工智能将可用于加强人类的健忘力，让人类不再会健忘任何工作。格鲁伯暗示，“人工智能所带来的超人能力是不成避免的，这可以或许让我们记住每小我的名字，记住听过的每一首歌或者看过的任何事物。人工智能可以或许与人类协作，而不是很多人所担忧的匹敌，它们可以或许帮忙我们人类战胜极限。若何操纵这一壮大的科学手艺，我们有本身的选择。我们既可以让它们与我们竞争，也可以让它们与我们协作。它们只会让我们降服局限，做得更好。机械人变得越来越伶俐，我们人类也会加倍伶俐。”