丁一凡：我不想補(bǔ)充一下，其實(shí)你問的這個問題，跟道德倫理之間相關(guān)，其實(shí)我們社會的規(guī)范是要懲罰這些道德倫理的壞事。我記得好像是微軟在美國的這個事，這個上線以后，有很多人教他罵人、納粹主義等等，教他特別壞，如果深度學(xué)習(xí)的時候，控制不住教他人的時候怎么辦？我們?nèi)绻プ∫粋€罪犯，由誰教唆你了，教唆犯，法律里有責(zé)任的，你可以抓他，判他的。如果在機(jī)器人過程中，如果都是逆名的，你抓不住，有人故意教他壞的時候，這個怎么規(guī)范這樣的道德倫理，這是一個挺大的事情，因?yàn)槭菦]有辦法控制的。有人會專門做這種壞事，這時候法律如果沒有規(guī)矩，就使得你造出一個非常聰明的人工智能，是一個超級惡魔，這時候怎么辦？