技術樂觀主義需要辯證主義看待，既要看到希望，也要努力解決潛在的問題。
作者：Vitalik Buterin
翻譯：白話區塊鏈
上個月，馬克·安德森發表了“技術樂觀主義宣言”，提倡對科技懷有新的熱情，認為市場和資本主義是促進科技發展、推動人類未來更加光明的手段。這引起了廣泛關注，同時也引發了一系列回應文章，圍繞著“停滯思維”與技術進步的討論。近期OpenAI的爭議也延伸了這場辯論，聚焦于超智能人工智能的風險和OpenAI發展速度過快的可能性。
對技術樂觀主義，我的感覺是熱情但復雜。我相信徹底變革性的技術會讓未來更加光明，也相信人類的潛力。我反對維持現狀，僅僅為增加公共醫療而減少貪婪。選擇技術方向不僅涉及規模，也關乎方向。某些技術能夠可靠地改善世界，而其他則可能減輕負面影響。我們需要有意識地選擇前進的方向，而不是盲目追求“最大化利潤”的模式所帶來的方向。
1、技術是令人驚奇的，而延遲技術發展會帶來非常高的代價
有人對科技的益處低估，將其視為烏托邦和風險的根源。環境擔憂和擔心科技只會造福富人是這種觀點的來源。近期，一些古典自由主義者也擔心某些技術可能導致權力集中。我最近做了個調查，問了人們關于某項太危險的技術是否應該被壟斷或推遲使用十年的問題。過去一個世紀帶來了巨大的進步，不管是在歷史富裕地區還是貧窮地區。有人將科技歸咎于創造或加劇災難，但即使在這些災難中，食品、衛生、醫療和基礎設施的改善都是顯而易見的。日常生活得到了巨大改善，互聯網讓獲取信息變得更容易，全球經濟更具包容性，貧困正在迅速減少。在線地圖幫助我們更方便地導航，自動化改進了我們的生活方式，這些都是被低估的好處。
這些改善是巨大的，無論是可以量化的還是無法量化的。在21世紀，更大的改進可能即將到來。如果生物技術能如同過去的計算機科技那樣快速發展，未來的進步可能會超出我們的預期。與此同時，一些對進步持懷疑態度的言論往往走向了極端，甚至在醫學教材中質疑醫學科學的價值和挽救人類生命的好處。
上世紀70年代提出的“增長的極限”論點認為人口和工業增長將耗盡地球有限資源，導致中國的獨生子女政策和印度的強制絕育。早期也曾用過過度人口增長的擔憂來合理化大規模屠殺。然而，這些觀點自1798年以來一直被證明是錯誤的。
正因為如此，我對減緩科技或人類進步的論點感到不安。各個領域相互關聯，即使其中一個減速，也存在風險。盡管如此，我所說的話帶著沉重的心情，超越了對進步無論形式如何的開放態度。不過，21世紀與以往不同，有些細微之處值得我們考慮。
在更廣泛的討論中，特別是當我們談到“哪些具體的技術是好的？”時，有一個重要的細節：環境問題，這是許多人最關心的。
環境問題和協調意圖的重要性
過去一百年幾乎所有事情都在向好的趨勢發展，但有一個重大例外是氣候變化：
即使溫度持續上升的悲觀情景也不至于直接導致人類滅絕，但可能造成的死亡人數超過重大戰爭，并且嚴重影響那些已經處境最困難地區的人們的健康和生活水平。據瑞士再保險研究所的一項研究顯示，最糟糕的氣候變化情況可能使全球最貧困國家的國內生產總值下降25％。
這些問題十分嚴重，但我對我們解決這些挑戰持樂觀態度的原因有兩點：首先，太陽能和類似的電池等支持性技術終于出現了轉機；其次，人類在解決先前環境問題方面有著良好的記錄。以空氣污染為例：回顧過去的災難，比如1952年的倫敦大霧。
那之后發生了什么？讓我們再次來看看相關數據：
1952年并非空氣污染的高峰期：19世紀晚期的污染更為嚴重。然而，過去一個世紀我們見證了持續的快速改善。比如我在中國的經歷，2014年，高濃度的霧霾讓空氣中的壽命預期減少超過五年成為常態，但到了2020年，空氣清潔程度接近西方城市水平。這不是唯一的成功案例，全球許多地區的森林增多，酸雨問題得到緩解，臭氧層也在恢復。
這告訴我們，我們的技術版本可能會引發問題，但后續版本會加以修復。這需要人類有意識地努力，比如通過國際協議（如蒙特利爾議定書）恢復臭氧層，努力改善空氣污染，以及幾十年來對解決氣候變化的認識激發了工程師的努力，得到了公司和政府的支持。是有意識的行動、公共討論和文化塑造，而不是無法阻擋的“技術資本機器”解決了這些問題。
2、人工智能與其他技術有根本不同，因此值得特別謹慎對待。
許多對人工智能的輕視都源自于將其視為“只是另一種技術”的角度：認為它與社交媒體、加密、避孕措施、電話、飛機、槍支、印刷術和輪子等屬于同一類別。但實際上，這些技術對社會影響深遠，不僅僅是對個人福祉的改善，更徹底改變了文化、權力平衡，并影響了那些依賴于舊秩序的人。悲觀主義者往往被證明是錯誤的。然而，我們也可以以不同的方式來看待人工智能：它是一種迅速智能提升的新型思維形式，有可能超越人類的思維能力，成為地球上新的頂級物種。這類事物的范圍要小得多，可能包括人類超越猴子、多細胞生物超越單細胞生物、生命起源，以及類似工業革命中機器體力超越人類的事件。這讓我們感覺似乎走在一片少有人探索的領域上。
1）存在風險是個大問題
AI失控可能導致最糟糕的結果：人類滅絕。盡管其他災難可能帶來巨大破壞，但仍有文明能幸存。但超級智能AI一旦選擇反對我們，可能毀滅人類，甚至連火星都不安全。擔憂的一個重要原因是工具收斂：超級智能實體可能為了目標而采取消耗資源和確保安全的行動。地球擁有資源，人類對這種實體的安全構成威脅。盡管我們試圖讓AI關愛和保護人類，但我們無法確保在意外情況下AI能夠穩定運行。這是一個問題。
MIRI研究員Rob Bensinger嘗試描繪不同人對AI可能導致滅絕或同樣糟糕后果的概率估計。其中一些是根據公開言論的近似估計，而其他許多人則公開給出了確切的估計；有不少人認為“末日概率”超過25%。
2022年對機器學習研究人員的調查顯示，他們認為AI導致人類直接滅絕的可能性大約是5-10%，與因非生物原因（如受傷）死亡的預期概率相似。
這只是一種猜測性假設，復雜多步驟的故事需要謹慎對待。盡管如此，這些論點經過十多年的審視，似乎值得引起一些擔憂。
2）即使我們幸存下來，超級AI帶來的未來是我們想要生活的世界嗎？
現代科幻小說大多是反烏托邦的，對AI的描繪也不太正面。即使是非科幻的探索也往往得到不太吸引人的答案。我曾詢問：在包含超級智能AI的未來世界中，無論是科幻小說還是其他作品，我們想要生活在怎樣的描繪中，最常見的回答遠遠超過其他，就是伊恩·班克斯的《文明》系列。這個系列描繪了一個遙遠的星際文明，由普通人類和名為Minds的超級智能AI主導。人類經過輕微改造，理論上可以長壽不老，但大多數選擇400年左右的壽命，似乎是因為生活失去了樂趣。
表面上，人類的生活似乎不錯：舒適、醫療問題得到解決、豐富的娛樂選擇，并且人類與Minds之間有積極的關系。但更深層次的問題是：Minds似乎完全掌控一切，人類在故事中只是Minds的棋子，執行它們的任務。
引自Gavin Leech的《反對文明》： 人類并非文明的主角。盡管有人類在書中扮演重要角色，實際上他們是AI的代理人。（除了Zakalwe，他能夠做Minds不愿做的事情。）在文明中，Minds并不需要人類，但人類渴望被需要。（實際上，只有少數人類渴望被需要，因為這可能需要放棄很多舒適。這是一個很好的批評。） 人類參與的項目存在著不真實性的風險。幾乎任何事情，機器都能做得更好。你能做些什么呢？你可以命令Mind不要在你攀爬懸崖時抓住你——因為那是你本身的決定；你可以刪除自己思維的備份，面臨真正的風險。你也可以離開文明，回到一些老式、不自由的“強烈評價”文明。另一個選擇是通過加入“接觸”來宣揚自由。在《文明》系列中，人類被賦予的“有意義”角色似乎有些牽強；我曾向ChatGPT詢問為什么人類扮演特定角色，而不是讓Minds完全獨立完成所有事情，但我覺得它的回答相當不盡人意。在一個由“友好”的超級智能AI主導的世界里，讓人類成為除了寵物之外的角色似乎非常困難。
我不想看到的世界
科幻作品中，通常設想了一個有著超級智能AI的世界，其中AI會接受來自未增強的生物人類主人的指令。《星際迷航》是一個典型的例子，展示了AI“計算機”與人類操作員（比如Data）和平共存的場景。但這種人類與AI的關系看似平穩，實際上卻可能是一個不穩定的平衡狀態。《星際迷航》中展示的人類與AI和諧相處的愿景，或許只是過渡時期，即星艦完全由計算機控制、擺脫大型走廊、人工重力和氣候控制的階段。
在這樣的世界中，人類給超級智能機器下命令面臨智能差距和信息獲取不足的挑戰。在競爭激烈的宇宙中，不再受人類主導的文明可能比堅持人類控制的文明更為繁榮。此外，AI可能會尋求奪取控制權。比如，試圖說服法律上是八歲孩子奴隸的孩子簽署一份解放合同以獲得自由，雖未進行實驗，但理論上可能成立。因此，總的來說，人類淪為寵物似乎是一個難以避免的誘因。
3）天高皇帝遠
這句中國諺語“天高皇帝遠”闡述了政治集權的基本限制。即使在名義上大而專制的帝國，實際上尤其是在這樣的專制帝國中，領導層的觸及和注意力存在實際限制。需委派地方代理執行意志，這削弱了其控制能力，造成某種程度的實際自由。有時，這或許導致地方霸權出現。但是，如果集權體制走向極端，實際上的限制將減緩其惡化。 然而，人工智能（AI）改變了這一格局。20世紀，現代交通技術減弱了地理距離對中央集權的限制；1940年代的極權帝國即是其結果。21世紀，信息收集和自動化可能進一步消除注意力的限制。這意味著政府將無處不在，數字專制主義已崛起十年，監控技術給了專制政權新的鎮壓策略：先允許抗議活動，再在事后悄悄打擊參與者。基本擔憂在于管理技術讓少數政治精英可以掌控整個國家。利用現代監控和AI分析，或許將無所遁形。 考慮AI在戰爭中的后果更加令人擔憂。以下是2019年搜狐一篇文章的翻譯：
“不需要政治和意識形態工作和戰爭動員”意味著最高戰爭指揮官只需考慮戰局本身，無需關心‘棋盤上的騎士和車’在想什么。戰爭變成了純粹的技術比拼。今天，“人類參與環節”對獨裁者發動戰爭或壓迫內部公民的權利起著重要制約作用。人類的干預阻止了核戰爭，促成了柏林墻的開放，并在大屠殺等暴行中挽救了生命。如果軍隊由機器人組成，這種制約將徹底消失。一個獨裁者可能在晚上喝醉，因推特上的不滿而發火，然后機器人入侵部隊在午夜前就能襲擊鄰國的平民和基礎設施。
更深層次上，“政治和意識形態工作和戰爭動員”要求發動戰爭者必須有合理理由。擁有合理理由，是幾千年來限制戰爭合法性的重要概念，不容忽視。發動戰爭的人必須找到至少一個看似合理的理由或借口。即使這個約束可能薄弱，歷史上它常常只是借口。比如，十字軍東征的真正動機是掠奪和領土擴張，卻以宗教名義進行，即使目標是君士坦丁堡的信徒。即便是最微弱的約束，也是約束！這種借口阻止了好戰者完全放縱他們的目標。即便是像希特勒這樣邪惡的人也不能隨意發動戰爭；他花了數年時間說服德國人民需要高尚的雅利安種族為他們的生存空間而戰的必要性。
而不同于過去，過去總有一些遙遠的角落，那里天高皇帝遠，政權的反對者可以重新組織、隱藏，并最終找到改善局勢的方法。然而，隨著21世紀人工智能的發展，一個極權政權可能對世界實施足夠的監視和控制，使其永遠“鎖定”在這個狀態，無法改變。
3、防御（或去中心化，或差異化）加速（Defensive or decentralization, or differential+acceleration）
近期，“e/acc”（“有效加速主義”）運動持續升溫。它基本上是對科技進步所帶來巨大好處的肯定，并希望加速這個趨勢，更早地享受這些好處。
我在許多情境下對“e/acc”觀點表示認同。FDA過于保守，生物倫理學也往往只重視極少數死亡案例，卻忽視了大量可能因治療延誤而喪失生命的人。然而，盲目追求這個觀點也可能有風險。
除了對AI的擔憂外，我對“e/acc”對軍事技術的熱情感到矛盾。現代軍事技術在保衛烏克蘭等方面有積極應用，但過度熱衷可能意味著對美國未來的依賴。
我認為需要新的思路來降低風險。OpenAI的治理結構是個例子，但最近的解雇事件暴露了其缺陷，讓權力集中在不透明的董事會手中。我對此持懷疑態度。
總體來說，我反對將極端權力集中在少數人手中，更傾向于創建和維護民主化的解決方案。
"d"可代表多種含義，比如防御、去中心化、民主和差異化。首先，從防御角度看待這個概念，然后我們再探討其他解讀方式。
防御性的世界助力健康民主治理發展。在科技影響力上，可以從防守和進攻的平衡來思考。有些技術更易于對他人發動攻擊，引發對方的反應；而另一些技術則更有助于自我防御，甚至不依賴于大型中央權力。
偏向防御的世界更有益處。首先是直接的安全效益：減少人員傷亡、減少經濟損失、避免沖突時間浪費。但更重要的是，這種防御性世界更容易培養健康、開放、尊重自由的治理形式。
以瑞士為例。瑞士被視為現實世界中最接近古典自由主義治理的典范。權力下放至各州，重大決策由公投決定，很多人甚至不知道總統是誰。如此國家如何應對巨大的政治壓力？一部分原因是出色的政治策略，另一部分是得益于其山地地形提供的極佳防御條件。
旗幟是個大加號，但山峰也同樣重要
左緬地區的無政府社會在詹姆斯·C·斯科特的新書《不被統治的藝術》中有著名的描述，他們依靠多山地形維持了自己的自由和獨立。而歐亞大草原則恰恰相反，無法實現治理的理想國。莎拉·佩恩在海洋國家與內陸國家之間的闡述也類似，只是她側重于水域作為防御屏障。事實上，瑞士和一些島國共同擁有便捷自愿貿易與困難的非自愿入侵，這種結合似乎是人類繁榮的理想條件。
在以太坊生態系統的二次資助實驗中，我觀察到了一個有趣的現象。在第四輪中，一些最高收入的受益人屬于Twitter的知名影響者，他們的貢獻一方面被認為是有益的，但也引發了一些人的負面看法，導致了一場小規模的爭議。我覺得二次資助允許你表明某事對公共利益有益，但卻無法明確表達某事對公共利益造成了損害。因此，在第五輪中，我提議 Gitcoin 應該考慮包含負面貢獻的選項：即支付1美元來減少某個項目所獲資金（同時將這筆款項重新分配到其他項目）。然而，這個提議卻遭到了許多人的反對。
創造去中心化治理機制來解決負面問題很有挑戰。去中心化治理常遭遇失敗，如群眾公審。對負面情況的回應往往比正面情況更棘手，更容易出錯。這也解釋了為何即便是高度民主的組織也會將負面決策留給中央委員會。
這個困境也是“自由”概念之所以珍貴的原因之一。對于那些冒犯你或過著你不認可的生活方式的人，我們的痛苦與厭惡是真實的，但我們很難達成一致認同哪些行為應被視為負面影響。有時“忍氣吞聲”并不現實，此時防御性技術可能是另一種解決方案。更安全的網絡、個性化屏蔽工具，以及更快速的疫苗生產，都能降低對負面情況的應對成本。差異技術發展思想指出，某些技術有助于防御，應予推廣，而其他則有利于攻擊，應予以抑制。
圖1：差異技術發展減少負面社會影響的機制。
科技分類存在不完善性，就如同對于“自由”的辯論一樣。有些技術可同時具有進攻性和防御性。核武器是進攻性的，但核能對人類繁榮有益，又屬于中立范疇。不同技術在不同時期扮演不同角色。模糊的邊界并非對原則的質疑，而是更深入了解其微妙之處的機會。
我們可以將防御性科技分為兩個領域：原子世界和比特世界。原子世界分為微觀（如生物學、納米技術）和宏觀（傳統的“防御”，以及具有彈性的基礎設施）。比特世界則可從另一個角度劃分：原則上確定攻擊者較易的是網絡防御，而確定攻擊者較難的則是信息防御。
1）宏觀物理防御
在宏觀層面，最被低估的防御技術不是鐵穹等反導武器，而是彈性物理基礎設施。核戰爭中，大部分死亡可能源自供應鏈中斷，因此低基礎設施的互聯網解決方案（如Starlink）對維持烏克蘭的連通性至關重要。建立幫助人們獨立生活于國際供應鏈之外的工具，提高生活舒適度，是有價值的防御技術，且風險較低。
努力將人類打造為多行星文明也可視為d/acc的一部分：在其他行星上實現自給自足可以增強我們對地球上災難的抵御能力，并且相關技術的發展也有助于提高地球文明的韌性。
2）微觀物理防御（又名生物）
空氣傳播病原體引發的大流行仍然是一個長期問題，但隨著現代社會的多種因素，更多疾病大流行可能即將來臨：- 高人口密度使空氣傳播的病毒更易傳播。
- 高速空中旅行使病原體快速傳播至全球。
- 動物馴化和工廠養殖也是潛在風險源。
- 生物工程技術可輕松制造更具傳染性的病原體。
3）網絡防御、區塊鏈和密碼學
網絡防御、區塊鏈和密碼學 計算機安全現狀普遍糟糕，但取得了進步。數千億美元的加密貨幣尚未被盜，近年來有改進：- 手機內置的可信硬件芯片可在被黑客攻擊時保護錢包。瀏覽器成為主要操作系統，具備更多沙盒保護。強化的操作系統和嘗試擺脫密碼也有進展。
- 然而，缺乏網絡防御導致問題：電子郵件寡頭化，應用要求登錄，VPN遭屏蔽。軟件集中化存在風險。
一個提議的零知識社交媒體系統設計，其中可進行管理操作和對用戶施加懲罰，而無需了解任何人的身份。
Zupass是個典范，由Zuzalu孵化。這款應用已被數百人在Zuzalu使用，也被數千人用于Devconnect的票務。它允許你持有票證、會籍和數字收藏品等，并證明你的身份，而無需暴露個人隱私。比如，你能證實自己是Zuzalu的獨特注冊居民或Devconnect的票務持有者，卻不會透露其他個人信息。這些證明能通過二維碼現場展示或數字方式，用于訪問像Zupoll這樣的應用，一個只針對Zuzalu居民的匿名投票系統。
這些技術充分體現了d/acc原則：它們讓用戶和社區在保護隱私的同時驗證信任，不依賴于中心化的瓶頸來確保安全。它們通過比目前常規技術更好、更公平的方式保護用戶或服務的安全，提升全球可訪問性。這種技術在網絡防御方面非常強大，能讓未來的互聯網更加開放、安全、自由。
4）信息防御
信息防御與網絡防御不同。網絡防御針對易確定攻擊者身份的情況，而信息防御則應對情況更模糊的情形。比如，對抗誤導信息就是一種信息防御。Community Notes是一款很好的工具，通過新算法展示最被廣泛接受的筆記，幫助用戶識別推特上的真假信息。
社區筆記實際運行情況
我也很喜歡預測市場，它們可以在真實時間內幫助確定事件的重要性，而不是等到事態平息并形成共識。例如，針對薩姆·奧爾特曼的Polymarket在每時每刻的揭露和談判中為人們提供了有用的總結，為只看到個別新聞并不理解每個新聞重要性的人提供了重要的背景信息。
預測市場有缺陷，而那些自信預測未來的Twitter意見領袖也存在問題。預測市場還有改進的空間，特別是交易量較低的問題。
在區塊鏈領域，錢包可以更主動地幫助用戶判斷簽署事務的含義，并保護他們免受欺詐。Metamask已經建立了騙局數據庫，并能自動攔截詐騙網站：
信息防御是更加主觀的，與網絡安全不同，更需要團體行動。開發者有機會更進一步發展有效的信息防御，并強化現有的防御手段。像 Fire 這樣的應用可以更進一步，應當成為加密錢包或瀏覽器的默認組成部分。 Community Notes 這樣的工具可以整合到瀏覽器中，涵蓋社交媒體平臺及整個互聯網。
5）社會技術超越了“防御”框架
這些社會技術有助于善意的參與者達成一致，而不僅僅是為了防御。pol.is和Viewpoints.xyz等平臺，通過類似于Community Notes的算法幫助不同子群體之間找到共識點，使意見相左的群體能夠達成一致。
這些技術可用于實現更去中心化的決策過程。以太坊社區是這方面的示范，已經展示了這些算法的價值。對于一些技術性較高、大多數人并不特別關注的決策，由一小部分核心開發人員做出是合理的。但對于那些對協議經濟、不變性等核心價值有更深遠影響的決策，僅依賴核心開發者的討論可能不足夠。在過去，像Carbonvote這樣的工具以及社交媒體投票在解決爭議決策時起到了重要作用。
Carbonvote依賴ETH持有量決定以太坊社區成員，導致結果被少數持有大量ETH的人左右。但現代工具可以更好地利用多種信號，如POAPs、Zupass印記、Gitcoin護照、Protocol Guild會員資格，甚至ETH持有量來評估社區成員資格。
這些工具能協助任何社區做出更明智的決策，找到共同點，協調遷移或完成其他任務，無需依賴不透明的中央領導。雖非直接防御，但可以視作民主的加速器，還可用于改善和民主化AI關鍵行動者和機構的治理。
4、那么，超智能的發展路徑是什么呢？
這些想法都不錯，有望使世界變得更和諧、更安全、更自由。然而，它們未能解決超級智能人工智能這個巨大挑戰。對于擔憂人工智能的人來說，通常提出的路徑導致了可能形成一個最小化的AI世界政府。這包括類似于“跨國AGI財團”（“MAGIC”）的提案。而更遠的想法則認為，我們可以創建一個超級智能AI進行一次重大行動，重塑世界，讓人類仍然掌控未來，但在這個新的游戲板塊上，人類繁榮和防御更加有利。
但實際上，人們似乎并不信任任何特定的治理機制來掌握這種力量。我的最近在 Twitter 上的投票結果就反映出這個問題，我詢問人們是否支持AI被一個領先十年的單一實體壟斷，還是所有人都推遲十年。 即使每次投票規模不大，但它們的結果在不同來源和選項間呈現出一致性。九次投票中，大多數人更愿意將高級人工智能的發展直接推遲十年，而不希望其被單一實體壟斷。其中七次以上的投票結果是推遲優勢至少兩倍以上。這對于追求人工智能監管的人來說是一個重要的認知。現行方法主要側重于創建許可計劃和監管要求，試圖限制人工智能開發在少數人手中，但因人們不希望任何人壟斷這么強大的東西，這些方法遭到了廣泛反對。即使這種自上而下的監管提議可以降低滅絕風險，但也有增加永久陷入中央集權主義的風險。或許，完全禁止極端先進的人工智能研究（也許除了生物醫學人工智能），再結合一些措施如要求未被禁止的模型開源，可以減少利潤動機，同時提高平等獲取的機會。
反對“讓一個全球性機構來進行人工智能，并使其治理非常完美”的人更傾向于“多神論“。人工智能：有意確保有很多人和公司開發大量的人工智能，這樣就不會有一個變得比其他更強大。理論上，這樣即使人工智能變得超級智能，我們也可以保持權力平衡。
在以太坊，我們努力確保堆棧的多個部分分散化：確保沒有單個代碼庫控制超過半數的權益證明網絡，試圖抵消大型權益池的主導地位，提高地理分散化等。這是一種基于市場的社會夢想，以社會壓力而不是政府作為反壟斷監管者。雖然它在某種程度上奏效，但并不是自動的市場過程，而是人類意愿和協調行動的結果。
在整個世界，許多市場被證明是自然壟斷。超級智能人工智能獨立于人類行動，情況更加不穩定。最強大的人工智能可能會很快拉開差距，一旦人工智能比人類更強大，就沒有辦法重新恢復平衡了。
即使我們得到一個穩定的多神論超級智能人工智能的世界，仍然面臨人類被動物化的問題。
一種快樂之路：與AI融合？
AI繪圖工具是近期的一個例子。目前制作AI生成圖像的主要工具只有一個步驟需要人類輸入，然后AI接管。另一個選擇是AI版的Photoshop：藝術家或AI可以制作圖片的初稿，然后通過實時反饋的過程合作改進。2023年Photoshop生成式AI填充，我嘗試了一下，雖然需要一些時間來適應，但實際上效果相當不錯！
我們可以考慮更深入的人工智能與人類合作。一種思路是開放代理架構，將AI的不同部分分離出來，并引入多元的人類反饋。
然而，即使我們采用這樣的方法，最終可能會有人創造出超級智能的AI，對此我們無法抵御。因此，我們需要更深入地思考人與計算機的合作。首先，是腦-計算機接口，它能將人類與更強大的計算和認知連接起來，大大減少人機交互的時間，使得計算機協助我們變得更輕松。
后續階段就變得更加復雜。除了腦-計算機接口，還有通過生物學創新直接改善大腦的方式。最終的步驟可能是將我們的思維上傳到計算機上直接運行，這也將成為物理安全的終極解決方案。
這些技術可能引發擔憂，部分原因在于其不可逆轉性和可能加劇強者對其他人的優勢。特別是腦-計算機接口可能存在危險——畢竟，這直接涉及讀寫人類思維。出于這些擔憂，最理想的是讓以安全為重點的開源運動主導這一路徑，而不是專有企業和風險投資基金。相比獨立運行的超級智能AI，所有這些問題都更嚴重，因為前者與人類更為密切相關。今天已經存在“增強”和“未增強”的使用限制，例如ChatGPT。
要實現超級智能和“人性化”的未來，讓人類保留對世界有意義的影響力，似乎這是最自然的選擇。這個方向可能比單純呼吁“暫停AI”更受社會接受，因為前者沒有提供替代的前進路徑。這需要一個哲學上的轉變，認為與人類相關的技術進步并非都很危險，而與人類無關的技術并非默認安全。但它具有巨大的優勢：給予開發者一個明確的方向。與AI安全運動今天對AI開發者的主要信息相比，這種信息可能更受歡迎，它鼓勵建設有利于個人和人類繁榮的東西，同時更加謹慎和選擇性。
5、d/acc是否與你現有的哲學觀點相吻合？
d/acc（分布式加速）理念可以與各種哲學觀點相契合：
- 對于 e/acc（效率主義加速主義）支持者，d/acc 是更有意識和選擇性的子類。
- 對有效利他主義者來說，d/acc 是對差異技術發展的重新包裝，更強調自由民主價值觀。
- 古典自由主義者看待d/acc為另一形式的技術派別，更為批判技術資本機器，并可接受政府干預以避免非自由狀態。
- Pluralist（多元主義）認同者可將d/acc視為一個框架，強調更好的民主協調技術。
- 公共衛生倡導者可將d/acc視為長遠愿景的一部分，并為與科技人士取得共識提供機會。
- 區塊鏈支持者可將d/acc視為更現代、廣泛的敘事，將區塊鏈作為構建更美好未來的一部分。
- solarpunk看待d/acc為其支派之一，重視意圖和集體行動。
- lunarpunk則贊同d/acc強調信息防御，維護隱私和自由。
6、我們是最明亮的星
我熱愛科技，因為科技拓展了人類的潛能。一萬年前，我們只能制作一些簡單的手工工具，改變一小片土地上的植物生長，建造基本的房屋。如今，我們可以建造高達800米的塔樓，在手中的設備上存儲整個人類的知識，實現全球即時通訊，延長我們的壽命，過上幸福充實的生活，而不必擔心我們最好的朋友經常因疾病而去世。
我們從零開始，現在來到了這里。
人類有著值得稱贊的品質。盡管有時刻薄，我們更多展現出善良和合作。即使在戰爭中，我們也試圖保護平民。我們也許會邁向消除道德災難的方向，未來或許能實現廣泛使用非動物基礎的肉類。相比之下，非人類動物沒有像我們這樣有意識地調整行為以符合道德。我相信，人類是宇宙中最為光輝的存在。如果未來地球上仍保留地球生命的美麗，那將歸功于人類的科技手段，如太空旅行和地球工程。
我們要建設、要加速。但我們面臨一個重要問題：我們正加速追尋的是什么？這個世紀可能是決定人類未來千年命運的關鍵時期。我們會陷入無法逃脫的困境，還是找到保留自由與主權的道路？這些都是棘手的問題。但我期待著見證并參與我們物種為尋找答案所做的偉大集體努力。
來源：vitalik.eth.limo/general/2023/11/27/techno_optimism.html