人类制造的最后一台机器？
发布时间：2022-02-24 10:45:03
□ 尹傳鴻
史蒂芬·霍金，一位著名物理學家，半個月前去世，他在他的專業領域之外有兩個驚人的理論：一個是他主張不主動接觸或接觸外星人，另一個是警告人工智能可能最終毀滅人類。對于第一個話題，大多數人認爲這位科學明星太“科幻”了，不是特别嚴肅。第二個話題似乎是正确的，因爲比爾·蓋茨和埃隆·馬斯克等大人物的呼應和支持。
事實上，叫賣AI不止一次地吓唬人。2014年5月，他和包括諾貝爾獎獲得者弗蘭克·威爾切克（Frank wilchek）在内的幾位著名科學家在《英國獨立報》（British independent）上聯合發表了一篇文章，警告人工智能的快速發展，創造一台真正有思維的機器“将是人類曆史上最大的事件”。一台超出人類智能水平的計算機可能“超越人類研究人員的發明和人類領導者的控制能力”。将所有這些視爲科幻小說“可能是我們曆史上最嚴重的錯誤”。
擁有機器人學博士學位的美國作家丹尼爾·威爾遜（Daniel Wilson）出版了一本科幻小說《機器人啓示錄》，生動地描述了幾年前機器人對人類發動的戰争。在小說中，一個看似簡單的嬰兒形狀機器人ACOS教給制造他的人：“你們人類隻是一台生物機器，旨在創造更多的智能工具。你們已經到達了你們物種金字塔的頂端，……你們的最後期限已經到了。你們已經完成了所有你們被設計用來完成的任務。”
自從20世紀40年代計算機發明以來，人們對機器寄予厚望。大多數人工智能的先驅并不認爲他們的職業生涯會有危險。然而，“計算機科學之父”英國著名數學家艾倫·圖靈，早在1951就表達了一種擔憂：“一旦思維開始，就不需要太長的時間來超越我們脆弱的人類……他們可以通過交流來增強他們的思維。因此，在一定的階段，我們将不得不考慮機器控制世界的問題。”
美國應用數學家、信息論創始人諾伯特·維納是第一個預見到信息技術雙重可能性的人。在二十世紀中旬的計算機時代開始時，威納描述了我們未來的一個可怕場景：…如果我們轉向制造機器，這些機器可以學習，它們的行爲可以通過經驗得到糾正，那麽我們必須面對這樣一個事實：我們給予機器的任何程度的獨立性都可能導緻對我們自己意願的抵制。從瓶子裏跑出來的酒精不會自願回到瓶子裏。同樣，我們沒有理由期望他們對我們好。
英國數學家歐文·約翰·古德可能是第一個清楚解釋人工智能未來的人。1965年，他指出，我們将超智能機器定義爲具有超越所有智能人類的智能活動的機器。一旦機器設計成爲一種智能活動，超級智能機器就可以設計出更好的機器。毫無疑問，将出現“情報爆炸”的局面，人類的情報将遠遠落後。因此，第一台超級智能機器将是人類制造的最後一台機器，如果機器不夠順從并告訴我們如何控制它的話。
在關于第一台超級智能機器的推測中，古道爾還談到了科幻小說：“這本書的内容對一些讀者來說可能是荒謬的，但對作者來說，它是真實而緊迫的。它不僅僅是科幻小說的内容，應該受到重視。”
許多行業專家非常重視超智能機器。美國發明家和未來學家雷·庫茲韋爾（ray Kurzweil）于2005年出版了《奇點逼近：當計算機智能在2045年超越人類時》一書。他在書中解釋的“奇點”吸引了很多關注和廣泛影響。這是一個英語單詞，表示獨特的事件和奇怪的影響。數學家用這個詞來表示一個超過任何極限的值，比如除以一個越來越接近零的數字，結果會急劇上升。
據說奇點最早是由計算機的重要創始人之一馮·諾依曼提出的，并将其表達爲一種撕裂人類曆史結構的能力。美國計算機專家和科幻小說作家維諾·芬奇（Verno Vinci）用這個詞來描述科學技術的無情和快速發展最終将達到的一種關鍵的聚合狀态。
關于創新技術的神奇想法聽起來像科幻小說，但它們總是如此。在我們創新科技的浪漫故事中，風險和收益總是并存，并且總是在好與壞之間保持平衡。似乎不可避免的是，我們不久将與前所未有的事物共享地球。這真是一件不可思議的事，有着超凡的智慧。〔1002〕〔1000〕我們下一步該做什麽？
□ 尹传鸿
史蒂芬·霍金，一位著名物理学家，半个月前去世，他在他的专业领域之外有两个惊人的理论：一个是他主张不主动接触或接触外星人，另一个是警告人工智能可能最终毁灭人类。对于第一个话题，大多数人认为这位科学明星太“科幻”了，不是特别严肃。第二个话题似乎是正确的，因为比尔·盖茨和埃隆·马斯克等大人物的呼应和支持。
事实上，叫卖AI不止一次地吓唬人。2014年5月，他和包括诺贝尔奖获得者弗兰克·威尔切克（Frank wilchek）在内的几位著名科学家在《英国独立报》（British independent）上联合发表了一篇文章，警告人工智能的快速发展，创造一台真正有思维的机器“将是人类历史上最大的事件”。一台超出人类智能水平的计算机可能“超越人类研究人员的发明和人类领导者的控制能力”。将所有这些视为科幻小说“可能是我们历史上最严重的错误”。
拥有机器人学博士学位的美国作家丹尼尔·威尔逊（Daniel Wilson）出版了一本科幻小说《机器人启示录》，生动地描述了几年前机器人对人类发动的战争。在小说中，一个看似简单的婴儿形状机器人ACOS教给制造他的人：“你们人类只是一台生物机器，旨在创造更多的智能工具。你们已经到达了你们物种金字塔的顶端，……你们的最后期限已经到了。你们已经完成了所有你们被设计用来完成的任务。”
自从20世纪40年代计算机发明以来，人们对机器寄予厚望。大多数人工智能的先驱并不认为他们的职业生涯会有危险。然而，“计算机科学之父”英国著名数学家艾伦·图灵，早在1951就表达了一种担忧：“一旦思维开始，就不需要太长的时间来超越我们脆弱的人类……他们可以通过交流来增强他们的思维。因此，在一定的阶段，我们将不得不考虑机器控制世界的问题。”
美国应用数学家、信息论创始人诺伯特·维纳是第一个预见到信息技术双重可能性的人。在二十世纪中旬的计算机时代开始时，威纳描述了我们未来的一个可怕场景：…如果我们转向制造机器，这些机器可以学习，它们的行为可以通过经验得到纠正，那么我们必须面对这样一个事实：我们给予机器的任何程度的独立性都可能导致对我们自己意愿的抵制。从瓶子里跑出来的酒精不会自愿回到瓶子里。同样，我们没有理由期望他们对我们好。
英国数学家欧文·约翰·古德可能是第一个清楚解释人工智能未来的人。1965年，他指出，我们将超智能机器定义为具有超越所有智能人类的智能活动的机器。一旦机器设计成为一种智能活动，超级智能机器就可以设计出更好的机器。毫无疑问，将出现“情报爆炸”的局面，人类的情报将远远落后。因此，第一台超级智能机器将是人类制造的最后一台机器，如果机器不够顺从并告诉我们如何控制它的话。
在关于第一台超级智能机器的推测中，古道尔还谈到了科幻小说：“这本书的内容对一些读者来说可能是荒谬的，但对作者来说，它是真实而紧迫的。它不仅仅是科幻小说的内容，应该受到重视。”
许多行业专家非常重视超智能机器。美国发明家和未来学家雷·库兹韦尔（ray Kurzweil）于2005年出版了《奇点逼近：当计算机智能在2045年超越人类时》一书。他在书中解释的“奇点”吸引了很多关注和广泛影响。这是一个英语单词，表示独特的事件和奇怪的影响。数学家用这个词来表示一个超过任何极限的值，比如除以一个越来越接近零的数字，结果会急剧上升。
据说奇点最早是由计算机的重要创始人之一冯·诺依曼提出的，并将其表达为一种撕裂人类历史结构的能力。美国计算机专家和科幻小说作家维诺·芬奇（Verno Vinci）用这个词来描述科学技术的无情和快速发展最终将达到的一种关键的聚合状态。
关于创新技术的神奇想法听起来像科幻小说，但它们总是如此。在我们创新科技的浪漫故事中，风险和收益总是并存，并且总是在好与坏之间保持平衡。似乎不可避免的是，我们不久将与前所未有的事物共享地球。这真是一件不可思议的事，有着超凡的智慧。〔1002〕〔1000〕我们下一步该做什么？
疫情期间，房租会减免吗？其实，在疫情期间，我们可以看到很多新闻，有些中国好房东减免了所有的房租费，等疫情结束后再重新交房租，，这对于个人租户或企业来说，无疑是好消息，如果...[全文阅读]
TVB的悬疑剧一直深受大众的喜爱，而近期上映的刑侦日记更是汇聚了诸多熟悉的tvb演员，什么惠英红、王浩信啊。也正是因为这样网友们纷纷好奇刑侦日记是不是刑事侦缉档...[全文阅读]
科颜氏美白淡斑精华使用会搓泥和自己的肤质是有关系的，有可能是角质层没有定期做清理，也有可能是搭配的护肤品叠加太多，导致营养过剩，还有人担心科颜氏美白淡斑精华用...[全文阅读]
TF细黑管新色80口红试色，这支“断货王”终于有缎光质地了！
TF口红的80号色#impassioned堪称专柜断货王，颜色非常耐看，暖调红棕色非常高级、洋气。新出的细黑管的80号是缎光质地的，比哑光的会更奶油一些，质感感觉比纯哑光更迷人...[全文阅读]
ios15系统并没有更新很多功能，而且很多人都不太系统这个版本，如果大家想退出旧版本，还是喜欢iOS14的话，也是可以降级的。那么，ios15降级绕过验证通道降14呢？一起来看看...[全文阅读]
虽说时下很多播放的小甜剧都被大家喜爱，但是排在首位的便要数林一、徐璐主演的良辰美景好时光，但由于二人剧中本就在游戏中相熟，但是现实上却总是各种错过，于是良辰美...[全文阅读]
本文标题：人类制造的最后一台机器？
上一篇：手术后吃什么，不能吃什么？
下一篇：kpi是什么意思网络用语
