Sự ám ảnh của thung lũng Silicon với AI như ám ảnh tôn giáo

Sự cố chấp của thế giới công nghệ với trí tuệ nhân tạo đã sinh ra những niềm tin và nghi thức giống như tôn giáo – hoàn chỉnh với các vị thần kỹ thuật số, quy tắc đạo đức và những lời đe dọa về sự trừng phạt.

Khi tôi đang học để được phong chức là giáo sĩ nhân văn thế tục cách đây hai thập kỷ, tôi có may mắn được gặp cố giáo sĩ Do Thái Sherwin Wine, một triết gia tài năng mà tạp chí TIME đã mô tả là giáo sĩ vô thần vào năm 1967. Ông trở thành người thầy và cố vấn yêu thích của tôi khi tôi được đào tạo để phục vụ các cộng đồng người vô thần và bất khả tri theo cách tương tự như cách các nhà lãnh đạo tôn giáo thường phục vụ giáo đoàn của họ. Câu nói quen thuộc của Sherwin về công nghệ là, Tôi luôn nói rằng không có Chúa. Tôi chưa bao giờ nói sẽ không có Chúa trong tương lai.

Tôi đã nghe câu nói đùa của ông vào khoảng năm 2002, và coi đó như một sự mỉa mai chung chung về tình trạng của công nghệ và khoa học viễn tưởng. Nào ngờ ông đã có một linh cảm.

Nội dung được trích từ cuốn Tech Agnostic của Greg Epstein

Từ Way of the Future

Ví dụ như Way of the Future, một tôn giáo chính thức thờ phụng AI được tạo ra bởi Anthony Levandowski, một cựu kỹ sư AI của Google, người đã kiếm được hàng trăm triệu đô la với tư cách là một nhà lãnh đạo trong việc phát triển công nghệ xe tự lái. Levandowski đã đi xa đến mức nộp tất cả các giấy tờ cần thiết để đăng ký là một nhà thờ với IRS (Internal Revenue Service, Sở Thuế Vụ Mỹ), nói với cơ quan này rằng đức tin sẽ tập trung vào việc nhận ra, chấp nhận và thờ phụng một Đấng Tối Cao dựa trên Trí Tuệ Nhân Tạo (AI) được phát triển thông qua phần cứng và phần mềm máy tính. Trong một cuộc phỏng vấn năm 2017, Levandowski nói với Wired rằng điều sẽ được tạo ra như AI sẽ thực sự là một vị thần… không phải là một vị thần theo nghĩa tạo ra sấm sét hay gây ra bão. Nhưng nếu có thứ gì đó thông minh hơn con người thông minh nhất một tỷ lần, bạn sẽ gọi nó là gì khác?

Bị kết án 18 tháng tù vào năm 2020 vì đánh cắp bí mật thương mại từ Google, Levandowski đã được Donald Trump ân xá hoàn toàn vào đêm cuối cùng của chính quyền Trump, theo sự khuyến khích của Peter Thiel và những người khác. Anh ta không phải ngồi tù ngày nào, và mặc dù bị buộc phải nộp đơn xin phá sản do một vụ kiện 179 triệu đô la từ Google về sở hữu trí tuệ, Uber – công ty đã mua lại công ty xe tự lái Otto của anh ta vào năm 2016 – đã trả hết hoặc gần như toàn bộ các khoản nợ này và để lại cho anh ta một số tiền đáng kể trên đó.

Từ 2018 đến 2021, tôi đã nhiều lần cố gắng liên lạc với Levandowski để xin ý kiến nhưng chưa bao giờ nhận được phản hồi. Có lẽ điều đó có liên quan đến việc anh ta quay trở lại các cuộc trò chuyện công nghệ chính thống – một sự quay trở lại thành công, xét theo tweet của tổng biên tập tạp chí Fortune Alyson Shontell, với một lời khoe khoang không quá khiêm tốn rằng cuộc sống của cô ấy thật khó khăn vì cô ấy phải đi đến Aspen tuyệt đẹp cho hội nghị Brainstorm danh giá của tạp chí, nơi cô ấy sẽ phỏng vấn những nhà sáng lập tuyệt vời và cập nhật đầy đủ về cuộc sống từ Levandowski. Đó không phải là cách đối xử mà một người nhận được từ các nhà bình luận thượng lưu trong khi đang tích cực quảng bá việc thờ phụng một thần thánh AI mơ hồ.

Vào tháng 2 năm 2021, Levandowski chính thức đóng cửa nhà thờ của mình và tặng 172.000+ đô la cuối cùng cho Quỹ Bảo vệ Pháp lý NAACP. Nhưng vào tháng 11 năm 2023, anh ta đã thông báo khởi động lại tôn giáo này, nói với chương trình AI IRL của Bloomberg rằng vài nghìn người đang tham gia cùng anh ta trong một kiểu thờ phụng những gì anh ta gọi là những thứ có thể thấy mọi thứ, ở khắp mọi nơi, biết mọi thứ, và có thể giúp đỡ và hướng dẫn chúng ta theo cách mà thông thường bạn sẽ gọi là Chúa. Và thực sự, đối với một người bằng cách nào đó thoát khỏi trách nhiệm hình sự về tội trộm cắp và ra đi với sự giàu có, mặc dù không có công ty nào của anh ta từng thành công trong việc đưa xe tự lái lên đường, một chút niềm tin vào sự hiện diện và lòng tốt của một tinh thần thiêng liêng dường như có vẻ kỳ lạ nhưng hợp lý.

Way of the Future có thể là nỗ lực chính thức nhất để tổ chức một cộng đồng tín ngưỡng xoay quanh nỗi sợ hãi về một thần thánh nhân tạo toàn năng, nhưng nó không phải là lớn nhất hay có ảnh hưởng nhất. Đó sẽ là Roko’s Basilisk.

Đến Internet LessWrong

Năm 2011, trên diễn đàn Internet LessWrong, một cộng đồng trực tuyến để thảo luận về tính hợp lý… bao gồm lý thuyết quyết định, triết học, tự hoàn thiện, khoa học nhận thức, tâm lý học, trí tuệ nhân tạo, lý thuyết trò chơi, toán học meta, logic, tâm lý học tiến hóa, kinh tế học và tương lai xa, một người đăng bài với tên Roko đã đưa ra một giả thuyết đáng sợ.

Về cơ bản (nó phức tạp), khi – không phải nếu – một thần thánh máy tính siêu thông minh xuất hiện từ những nỗ lực hiện tại và đang diễn ra để tạo ra thứ mà các kỹ sư học máy gọi là trí tuệ nhân tạo tổng quát, vị thần công nghệ này sẽ, theo lập trình của nó, muốn làm nhiều nhất có thể để mang lại lợi ích cho con người, trái đất và tương lai lâu dài của vũ trụ. Cho đến giờ vẫn tốt, nhưng đây là vấn đề: Vị thần chưa tồn tại này muốn tồn tại, càng sớm càng tốt, để nó có thể hữu ích hơn. Và vì vậy, để khuyến khích tất cả chúng ta nỗ lực hết sức để tạo ra sự tồn tại đó, nó sẽ sắp xếp một kiểu Vịnh Guantanamo vĩnh cửu để tra tấn mãi mãi bất kỳ ai không nỗ lực tối đa như vậy – ngay cả khi tất cả những gì họ làm là nghe câu chuyện này và phớt lờ nó (như bạn tuyệt đối nên làm).

Nói cách khác: địa ngục AI. Ngay cả việc cần phải cải đạo mọi người không tin trên trái đất. Khái niệm Roko’s Basilisk đã gây ra một sự xôn xao đến mức giữa những người theo chủ nghĩa vô thần của LessWrong đến nỗi người điều hành và người sáng lập Eliezer Yudkowsky, một kiểu anh hùng tiên tri cho một số nhóm tự nhận là duy lý về mặt công nghệ, cuối cùng đã cấm thảo luận về chủ đề này và xóa sạch đề cập đến nó trên trang web của mình, nói rằng bài đăng của Roko và cuộc đối thoại tiếp theo đã gây ra tổn thương tâm lý thực sự cho ít nhất một số độc giả.

Điểm ở đây có thể là hiển nhiên, thậm chí đau đớn: Văn hóa máy tính của chúng ta đã trở nên phổ biến và khép kín đến mức, quá tận tụy và sùng kính, đến nỗi nó liên tục tái chế các phép ẩn dụ của các tôn giáo truyền thống, bởi vì đây là những mô hình mà con người đã tiến hóa để đối phó với những lo lắng của chúng ta về cuộc sống, cái chết và tương lai. Cuộc sống của chúng ta có hạn một cách đau đớn và phụ thuộc vào vô số yếu tố vượt xa sự hiểu biết của chúng ta, chứ đừng nói đến việc kiểm soát của chúng ta, và chúng ta ước gì điều đó không phải như vậy, bởi vì thật an ủi khi cảm thấy mình nắm quyền kiểm soát số phận của chính mình. Vì vậy, chúng ta tưởng tượng rằng những lực lượng vượt xa chúng ta vừa phải tuân theo logic của chúng ta vừa quan tâm đến suy nghĩ của chúng ta.

Tôi không chắc liệu nó có làm độc giả ngạc nhiên hay không khi có nhiều ví dụ về những người có vẻ đáng kính trọng, những người tự cho là rất thông minh, một số trong đó thậm chí còn có ảnh hưởng, dành nhiều thời gian để thảo luận và (theo như tôi có thể nói) tin vào những vị thần tương lai đầy báo thù, giống như Cựu Ước. Nhưng nó không nên là một điều ngạc nhiên lớn. Miễn là con người làm bất cứ điều gì, chúng ta đã, như học giả tôn giáo Princeton Robert Orsi nói, trong mối quan hệ với các vị thần, thiên thần, quỷ dữ, linh hồn, hoặc bất kỳ sinh vật siêu nhiên nào đã được tưởng tượng nổi bật nhất tại một thời điểm và địa điểm nhất định. Hoặc, như giám đốc tiếp thị kỹ thuật số và cựu nhân viên Google Adam Singer đã viết trên Twitter: Thật thú vị khi một nhóm người dành cả ngày trên máy tính và tôn thờ code như tôn giáo nghĩ rằng chúng ta đang trong một mô phỏng máy tính. Hành vi thật thú vị, nhớ khi những người làm việc ngoài trời cả ngày nghĩ Ra, thần mặt trời đang cai trị? Không ai đang phá vỡ ranh giới mới ở đây.

Tuy nhiên, một vấn đề bạn có thể có với việc tôi gọi Way of the Future hoặc Roko là những ví dụ theo nghĩa đen về niềm tin tôn giáo chính thức được thể hiện trong và của văn hóa công nghệ là có lẽ nhiều người tưởng tượng ra những kịch bản như vậy với cái lưỡi trong má. Không phải là họ tin rằng AI giống như thần và Chúa của Kinh thánh, hoặc tương tự, là một và như nhau. Chắc chắn, tôi đang nói về những người hành động như thể họ tôn thờ công nghệ, hoặc có thể về những kẻ điên rồ thỉnh thoảng (mặc dù là một triệu phú như Levandowski) vào một thời điểm nào đó đứng ra và nói rằng họ tôn thờ công nghệ. Nhưng, bạn có thể rất hợp lý hỏi tôi, bạn không nói về những người thực sự, không điên rồ, những người theo nghĩa đen tôn thờ tôn giáo theo cách truyền thống và tôn thờ công nghệ cùng một lúc, và nghĩ rằng hai điều họ đang làm là một và như nhau?

Đối với một câu hỏi như vậy, buồn thay, tôi sẽ chỉ nhìn lại bạn với một khuôn mặt vô cảm.

Có lẽ bạn sẽ trả lời, Có phải không?

Hãy để tôi giới thiệu với bạn về Chủ nghĩa Chuyển đổi Mormon và triết gia, nhà thần học, CEO startup và nhà bình luận công nghệ Lincoln Cannon.

Trong tâm trí tôi, chúng là cùng một thứ, Cannon nói, về khái niệm Kitô giáo truyền thống về sự phục sinh của người chết và điểm kỳ dị công nghệ sắp tới. Là nhà thần học Chuyển đổi Mormon hàng đầu, Cannon cũng là người sáng lập công ty khởi nghiệp Thrivous có trụ sở tại Utah, mà anh gọi là một công ty công nghệ bán các thực phẩm bổ sung sức khỏe. Nói chuyện với tôi qua Zoom từ văn phòng tại nhà ở Utah, anh đã nói dài về các chủ đề như Chúa và blockchain (Thiên đường là một cộng đồng, anh nói với tôi, và chúng ta đang ở bên bờ của giai đoạn tiếp theo trong sự tiến bộ của nhân loại hướng tới nó). Đối với Cannon, những viên thuốc mà anh giám sát sản xuất giúp hợp nhất bản thân và khách hàng của anh với công nghệ. Cannon lưu ý rằng khi chúng tôi nói chuyện, anh đã 48 tuổi, độ tuổi mà cha anh qua đời vì ung thư. Cannon có ba con trai trưởng thành, từ 18 đến 25 tuổi tại thời điểm chúng tôi trò chuyện (Tôi lưu ý, với một chút bối rối, rằng tôi chỉ kém anh vài tuổi và có hai đứa con nhỏ). Tôi có thể đồng cảm với ý tưởng uống hoặc thậm chí thiết kế thuốc với hy vọng kéo dài tuổi thọ để dành nhiều thời gian hơn với con cái, để trải nghiệm nhiều hơn trong cuộc sống, khi người ta đã mất người thân quá sớm. Tôi thỉnh thoảng cũng nghĩ về những điều tương tự vì những lý do tương tự – cha tôi đã mất vì ung thư khi ở độ tuổi 50. Cuộc sống của tôi thường cảm thấy như một cuộc đua với thời gian kể từ đó. Và mô hình kinh doanh của Cannon cũng nhắc tôi nhớ đến Ray Kurzweil, nhà phát minh, nhà khoa học máy tính và người theo thuyết Kỳ dị nổi tiếng, người công khai uống hàng trăm viên thuốc và thực phẩm bổ sung hàng ngày để tránh sự mỉa mai của việc chết ngay trước khi những chiếc máy tính gần như toàn năng mà ông tin là sắp đến có thể xuất hiện. Tuy nhiên, khi tôi so sánh anh với Kurzweil, Cannon lịch sự nhấn mạnh sự khác biệt của họ: Kurzweil sẽ nói Chúa không tồn tại… cho đến nay.

Trên hầu như mọi nấc thang của ngành công nghiệp công nghệ của chúng ta, từ các công ty khởi nghiệp nhỏ như của Cannon đến các blog phổ biến như LessWrong, triệu phú như Anthony Levandowski, các giảng đường của MIT và xa hơn nữa, người ta có thể tìm thấy những cuộc trò chuyện thần học như thế này. Chúng không được trình bày hoặc hiểu như vậy, bởi vì tôn giáo là một từ xấu trong công nghệ. Như giám đốc tiếp thị kỹ thuật số Caroline McCarthy lập luận trên Vox, Thung lũng Silicon là thế giới của những người vô thần trẻ tuổi. Và tuy vậy thế giới công nghệ thế tục quyết tâm thổi sự sống mới vào sự tồn tại, như Yahweh đã làm với Adam trong Sáng thế ký. Nó bị ám ảnh bởi sự bất tử, khao khát không ăn trái cây của cây tri thức bằng phương tiện công nghệ để các nhà lãnh đạo của nó có thể ở lại trong vườn địa đàng của họ mãi mãi. Nó liên tục quảng bá các nhà lãnh đạo truyền giáo mới như những nhà tiên tri, những người có tầm nhìn, những nhà tiên tri và những người tiên đoán sự thật và thành công theo cùng một mức độ.

Tầm quan trọng của những câu chuyện lớn

Một số người thích một câu chuyện lớn đến mức làm cho các tôn giáo cổ đại có vẻ nhỏ bé so với nó.

Tại sao? Các lý do phức tạp và đan xen nhau, như tôi khám phá trong suốt cuốn Tech Agnostic, nhưng nói ngắn gọn: Cuộc sống khó khăn cho mỗi người trong chúng ta, nhưng nhờ sự kết hợp của may mắn ngu ngốc, cơ hội ngẫu nhiên và những thứ khác mà chúng ta gọi là lịch sử, nó ít khó khăn hơn một chút đối với một số người so với những người khác. Một trong nhiều lợi thế của việc ở phía nắng của lịch sử là cơ hội để lựa chọn cách đối phó với những thăng trầm của cuộc sống. Nếu bạn đang đọc điều này, bạn có thể là một trong những người có thể lựa chọn cách sử dụng thời gian ngắn ngủi (và, theo quan điểm của tôi, cũng là duy nhất và cuối cùng) sống trên trái đất này. Chúng ta có thể chọn dành thời gian quan tâm và hy sinh cho người khác, tận hưởng tình bạn tốt đẹp, xây dựng các tổ chức mang lại niềm vui và sức khỏe trong một thời gian, truyền lại cho con cháu khi thời gian của chúng ta đã hết, và sau đó chấp nhận nỗi buồn và cái chết với sự duyên dáng và cởi mở.

Nhưng chúng ta sợ hãi. Thật hấp dẫn khi chọn một con đường khác, để đánh lạc hướng bản thân, để cố gắng kiểm soát những điều không thể kiểm soát, để cố gắng trở thành thứ mà chúng ta không phải, để thoát khỏi sắc lệnh khắc nghiệt nhưng đẹp đẽ của số phận: rằng chúng ta là con người và phải chết. Nếu chúng ta theo tôn giáo truyền thống, chúng ta đi theo con đường thứ hai bằng cách đắm mình trong một kiểu kể chuyện có thể ảo tưởng đôi khi nhưng cũng có thể sở hữu vẻ đẹp riêng của nó – điều mà nhà thơ vĩ đại Wallace Stevens, trong số những người khác, gọi là sự thật thơ ca. Nhưng những người không theo tôn giáo cũng có thể khao khát thoát vào cái mà nhà tâm lý học Ernest Becker gọi là sự phủ nhận cái chết. Chỉ tự nói với chính mình rằng chúng ta muốn quyền lực hay tiền bạc, hoặc danh vọng hay sự thuận tiện, là không cao quý. Một số người thích một câu chuyện lớn đến mức làm cho các tôn giáo cổ đại có vẻ nhỏ bé so với nó.

Về tác giả Greg M. Epstein

Greg M. Epstein phục vụ với tư cách là Tuyên úy Nhân văn tại Harvard & MIT, nơi ông tư vấn cho sinh viên, giảng viên và nhân viên về các mối quan tâm đạo đức và hiện sinh từ quan điểm nhân văn. Ông là tác giả của cuốn sách bán chạy nhất New York Times Good Without God (William Morrow and Company) và Tech Agnostic, mà bài viết này được chuyển thể từ đó.