Yuval
Noah Harari: 'Tôi không biết liệu con người có thể sống sót vượt qua được AI'
Telegraph
Cù
Tuấn, biên dịch
- Cù Tuấn biên dịch từ Telegraph.
Tóm tắt: Lần đầu
tiên, chúng ta đã phát minh ra một thứ có thể lấy đi sức mạnh của chúng ta, nhà
sử học người Israel và tác giả của cuốn sách Sapiens cho biết
Những câu chuyện luôn quan trọng đối với Yuval
Harari, nhà sử học kiêm triết gia người Israel. Khả năng độc nhất của loài
chúng ta là bị ràng buộc và thống nhất bởi những câu chuyện mơ hồ, thậm chí
xuyên qua các đại dương, là trọng tâm của Sapiens, biên niên sử nổi tiếng đến
kinh ngạc của ông về sự trỗi dậy của loài chúng ta, đã đưa ông đến địa vị giống
như nhà tiên tri sau khi nó được xuất bản một thập kỷ trước.
Có lẽ đó là lý do tại sao ngày nay ông rất
quan tâm đến sự trỗi dậy của một kẻ thách thức khả năng kể chuyện của chúng ta
– trí tuệ nhân tạo (AI).
“Đây là công nghệ đầu tiên trong lịch sử tạo
ra những câu chuyện,” Harari, 47 tuổi, nói với tôi từ ngôi nhà của ông ở ngoại
ô Tel Aviv. Đối với ông, không có gì có thể là một cuộc biểu dương quyền lực lớn
hơn. Vì theo quan điểm của ông, niềm tin tập thể của chúng ta vào “những câu
chuyện” - về đức tin, tài chính và quốc gia cùng những thứ khác - đã thúc đẩy sự
thống trị của loài người đối với Trái đất. Ví dụ, tiền đã cho phép chúng ta phát
triển, nhưng đồng xu trong túi của bạn có giá trị gì nếu người bán hàng coi nó
chỉ là một tờ giấy màu xanh?
Giờ đây, AI cũng có thể thêu dệt nên những câu
chuyện truyền kỳ như vậy, cho thấy tiềm năng của công nghệ cả về mặt tốt lẫn mặt
xấu, từng được coi là xa vời và lý thuyết, giờ đây đã trở nên tức thời và có thật.
Đó là lý do tại sao Harari đã thêm tên của mình vào một bức thư ngỏ trong tháng
trước, được hàng nghìn chuyên gia bao gồm cả Elon Musk ký, với nội dung kêu gọi
tạm dừng nghiên cứu về phần mềm như ChatGPT, một mô hình AI có thể tương tác với
con người bằng văn bản sáng tạo, có sắc thái gần như đáng lo ngại.
Các chương trình khác có thể làm các việc
tương tự với hình ảnh và âm thanh. “Thế hệ AI mới không chỉ truyền bá nội dung
mà con người tạo ra. Nó có thể tự sản xuất nội dung,” Harari nói. “Hãy thử hình
dung ý nghĩa của việc sống trong một thế giới mà hầu hết các văn bản và giai điệu,
sau đó là phim truyền hình và hình ảnh đều được tạo ra bởi một trí thông minh
không phải con người. Chúng ta chỉ không hiểu ý nghĩa của nó. Điều gì có thể là
hậu quả của việc AI tiếp quản nền văn hóa?”
Các ví dụ tầm thường đã xuất hiện. Tuần trước,
một tạp chí của Đức đã bị chỉ trích vì xuất bản một cuộc phỏng vấn độc quyền với
Michael Schumacher, trong khi thực tế là văn bản được tạo ra bởi AI, bắt chước
cựu tay đua bị liệt. Harari gợi ý rằng AI sẽ sớm tiến xa hơn nữa, gợi lên một
thế giới trong đó “bạn lên mạng và tranh luận với ai đó về một số vấn đề chính
trị. Có thể họ thậm chí còn gửi cho bạn một đoạn video họ nói chuyện. Nhưng
không có người đứng sau nó. Tất cả đều là AI.”
Cũng không phải Harari bị loạn thị giác, khi
mà việc làm giả nội dung kỹ thuật số tổng hợp sẽ không chỉ là của bất kỳ con
người nào. Bởi vì chúng ta bị ảnh hưởng đặc biệt bởi những người gần gũi với
mình, và đó có thể là bạn bè hoặc người thân đang cố thuyết phục bạn về giá trị
của một sản phẩm hoặc quan điểm của họ về biến đổi khí hậu, vắc xin hoặc việc
nhập cư. Harari nói, đó sẽ là một quyền lực thao túng việc kể các câu chuyện
công khai chưa từng thấy trước đây, và sẽ khiến mạng xã hội có ảnh hưởng mạnh đến
các vụ bê bối trong 10 năm qua, vốn được cho là đã đóng một vai trò nào đó
trong các cuộc bầu cử tại các nước từ Brazil đến Mỹ, trở nên trò trẻ con không
đáng nói. Jeremy Fleming, người đứng đầu GCHQ, đã cảnh báo nội các Mỹ rằng
thông tin sai lệch do AI viết ra sẽ là một mối đe dọa đáng kể.
Harari nói: “Điều này đặc biệt là mối đe dọa đối
với các nền dân chủ hơn là đối với các chế độ độc tài bởi vì các nền dân chủ dựa
vào các cuộc đối thoại công khai. Nền dân chủ về cơ bản là đối thoại. Mọi người
nói chuyện với nhau. Nếu cuộc trò chuyện bị AI tiếp quản, nền dân chủ sẽ kết
thúc.”
Nhưng công nghệ này có thể có tác dụng gì nếu
được các chế độ toàn trị tung ra một cách ác ý trên chiến trường? Ví dụ, một hệ
thống AI của Google đã tự học tiếng Bengali mà không được đào tạo để làm như vậy.
“Chế độ Đức quốc xã dựa trên các công nghệ như
tàu hỏa, điện và radio. Harari nói: “Họ không có những công cụ như trí tuệ nhân
tạo. Một chế độ mới trong thế kỷ 21 sẽ có nhiều công cụ mạnh mẽ hơn. Vì vậy, hậu
quả có thể thảm khốc hơn nhiều. Tôi không biết liệu loài người có thể tồn tại
được hay không nữa.”
Ông nói, thậm chí nhiều hậu quả tầm thường hơn
cũng có khả năng trở thành một cuộc cách mạng. “Một mối nguy hiểm khác là nhiều
người có thể thấy mình hoàn toàn mất việc làm, không chỉ tạm thời mà còn thiếu
các kỹ năng cơ bản cho thị trường việc làm trong tương lai. Chúng ta có thể đạt
đến điểm mà hệ thống kinh tế coi hàng triệu người là hoàn toàn vô dụng. Điều
này có những hậu quả khủng khiếp về tâm lý và chính trị.”
Chính sự tự chủ của AI đã khiến nó trở nên
khác biệt. Tuy nhiên, ngay cả Harari, người đã làm nên tên tuổi của mình trong
những chủ đề phức tạp, dường như thất vọng vì không thể khiến những người còn lại
trong chúng ta nhìn nhận điều này một cách sâu sắc như ông ấy.
“Chúng ta cần hiểu rằng AI là công nghệ đầu
tiên trong lịch sử có thể tự đưa ra quyết định. Nó có thể đưa ra quyết định về
cách sử dụng của chính nó. Nó cũng có thể đưa ra quyết định về bạn và tôi. Đây
không phải là một dự đoán trong tương lai. Điều này đã xảy ra rồi.”
Harari thảo luận về các trường hợp nổi tiếng
trong đó phần mềm AI đã được sử dụng để kiểm tra những người xin vay tiền hoặc
quyết định liệu các tù nhân có nên được tạm tha hay không. “Vì vậy, lần đầu
tiên trong lịch sử, quyền lực đang dịch chuyển. Chúng ta đã phát minh ra một thứ
lấy đi sức mạnh của chúng ta. Và việc này diễn ra quá nhanh đến nỗi hầu hết mọi
người thậm chí không hiểu chuyện gì đang xảy ra. Chúng ta cần đảm bảo rằng AI sẽ
đưa ra những quyết định đúng đắn về cuộc sống của chúng ta. Đây là điều mà
chúng ta còn rất lâu mới giải quyết được.”
Giống như những người khác, giờ đây Harari tán
thành quy định để quản lý sức mạnh của AI – khai thác khả năng của nó và ngăn
chặn thảm họa. Trong suy nghĩ của Harari, những quy tắc như vậy sẽ mô phỏng các
biện pháp bảo vệ y tế. “Một công ty dược phẩm không thể đưa một loại thuốc mới
ra thị trường mà không trải qua một quy trình quản lý lâu dài. Thật kỳ lạ và
đáng sợ khi các tập đoàn có thể phát hành các công cụ AI cực kỳ mạnh mẽ ra công
chúng mà không có bất kỳ biện pháp kiểm soát an toàn tương tự nào.”
Ông khẳng định các biện pháp như vậy sẽ phải
được chính phủ Mỹ thực thi. Mong đợi ngành công nghệ tự điều chỉnh là chuyện
không tưởng. “Với tất cả sự tôn trọng dành cho Elon Musk và Zuckerberg hoặc những
người đứng đầu khác của các công ty công nghệ lớn, họ không được bầu bởi bất kỳ
ai, không đại diện cho bất kỳ ai ngoại trừ các cổ đông của họ và không có lý do
gì để tin tưởng họ.” Như để chứng minh quan điểm của Harari, Musk đã công bố
chatbot AI của riêng mình chỉ vài ngày sau khi ký vào bức thư tố cáo nghiên cứu
AI của các công ty khác.
Có lẽ không có gì ngạc nhiên khi Harari luôn tắt
điện thoại của mình, “đặt nó trong ngăn kéo”. Ông gọi nó là “chiếc điện thoại
thông minh khẩn cấp” khi ông đi du lịch nước ngoài, và số lần đi ra nước ngoài
này nhiều hơn đáng kể trong thập kỷ qua, kể từ khi Harari trở thành một siêu
sao tri thức toàn cầu.
“Thực sự không thể làm được một số việc nếu
không có điện thoại thông minh.” Người ta chỉ nhớ về việc Harari cố gắng gọi
taxi trong một chuyến du lịch nước ngoài và không thành công. Tuy nhiên, điều
Harari không muốn xem trên màn hình điện thoại của ông là chuỗi thông tin gây mất
tập trung đang cố tràn vào não ông. Harari tuyên bố mình đang “ăn kiêng thông
tin”.
“Có quá nhiều thông tin rác,” ông nói. “Nó giống
như thức ăn. Trong phần lớn lịch sử loài người, chúng ta đã cố gắng hết sức để
có thêm thức ăn. Và bây giờ chúng ta đang ở trong tình thế ngược lại. Chúng ta
cần phải rất cẩn thận về cả số lượng cũng như chất lượng thực phẩm mà chúng ta
ăn vào.”
Ông đối chiếu sự tập trung và lựa chọn chủ động
liên quan đến việc “đọc” với việc “tiêu thụ” thông tin thụ động, mắt liên tục
chuyển động này. Thật khó để tưởng tượng Harari làm bất cứ điều gì một cách thiếu
suy nghĩ như vậy. Ông thích dành thời gian và sự yên tĩnh để sáng tác những tư
tưởng của mình, và từ lâu đã thích thiền định để đảm bảo rằng ông được điều chỉnh
tinh thần để tránh bị phân tâm. Harari nói: “Tôi vừa trở về sau một khóa tu thiền
kéo dài hai tháng. “Bạn có thể nói đó là một phần của chế độ ăn kiêng thông
tin… một khoảng thời gian để ngắt kết nối và cho phép tâm trí tự giải độc khỏi
tất cả những thứ rác rưởi mà chúng ta lỡ tiếp nhận.”
Harari có thể dành nhiều thời gian cho sự an
toàn tài chính mà danh tiếng của ông đã mang lại (trong một bài báo trên tờ New
Yorker, người ta cho rằng phí thuê Harari một bài phát biểu dài 24 phút lên tới
vài trăm nghìn đô la). Nhưng niềm yêu thích thiền định của Harari có trước
thành công của ông, và bản năng biết dừng lại, suy ngẫm về những chủ đề lớn và
tạo mối liên hệ giữa chúng vẫn còn xa hơn nữa, khi ông nhận ra rằng việc lớn
lên như một người đồng tính nam khiến Harari trở thành một người đứng ngoài cuộc,
nhìn vào phần còn lại của xã hội, và cố gắng giải thích nó. Ông nói: “Những năm
1980, Israel rất kỳ thị người đồng tính."
Harari lớn lên gần Haifa, phía bắc Israel, là
đứa con út thông minh sớm (ông có hai chị gái) của Shlomo - một nhà thầu quốc
phòng - và Pnina Harari. Ở tuổi thiếu niên, Harari đã đặc biệt ưa thích môn lịch
sử thời trung cổ, môn học mà ông đã học tại Đại học Do Thái ở Jerusalem cho đến
năm 1998, khi ông chuyển đến Đại học Jesus, Oxford để hoàn thành bằng Tiến sĩ.
Harari trở lại Israel vào năm 2003, năm mà
Hebrew U (được biết đến với tên gọi Đại học Hebrew), bắt đầu dạy một khóa học vỡ
lòng dành cho sinh viên chưa tốt nghiệp có tên là “Giới thiệu về Lịch sử Thế giới”.
Với tư cách là chuyên gia, các học giả lâu đời có xu hướng né tránh một khóa học
rộng lớn như vậy, vì vậy Harari, một thành viên mới và cấp dưới của khoa, đã nhận
thấy mình đang dạy nó. Vì lo lắng, ông đã viết sẵn giáo án cho 20 bài giảng của
mình. Chúng đã trở thành nền tảng của cuốn Sapiens.
Nhưng nói như vậy chỉ làm cho con đường đến với
danh tiếng và sự giàu có của Harari có vẻ đơn giản. Trên thực tế, bản thảo của
Sapiens đã nhiều lần bị từ chối ở Israel, và sau đó, khi nó cuối cùng cũng tìm
được nhà xuất bản, nó đã mòn mỏi không được dịch trong vài năm. Harari thậm chí
còn tự dịch sang tiếng Anh và sử dụng dịch vụ in sách theo yêu cầu của Amazon.
Đó là một cuộc đấu tranh mà Harari có thể
không đủ quyết tâm theo đuổi nếu không có sự can đảm của chồng của ông, Itzik
Yahav, người mà Harari đã gặp gỡ qua một trang web hẹn hò vào năm 2002. Yahav
không chỉ giúp sự nghiệp của Harari khởi sắc, ông ấy còn là nhân tố chủ chốt. yếu
tố đảm bảo rằng sau đó Harari đã thăng tiến rất cao, đến mức giờ đây Harari có
một văn phòng đầy đủ nhân viên khiến những trí thức công cộng khác phải ghen tị.
“Nếu chỉ có mình tôi, tôi đã gục ngã hoặc bỏ cuộc từ lâu rồi,” Harari từng nói
về Yahav.
Kể từ đó, Harari đã xuất bản hai cuốn sách lịch
sử nội dung sâu rộng khác - Homo Deus (2016) và 21 bài học cho thế kỷ 21
(2018). Năm ngoái, ông đã phát hành cuốn sách thiếu nhi đầu tiên của mình,
Unstoppable Us: How Humans Took Over the World, và Sapiens cũng đã được chuyển
thể thành một bộ tiểu thuyết đồ họa. Nhưng mối bận tâm cấp bách nhất của ông hiện
nay là tình trạng của quốc gia mình, đáng chú ý là các kế hoạch của liên minh
do Benjamin Netanyahu lãnh đạo nhằm cắt giảm quyền lực của Tòa án Tối cao Israel,
cơ quan hiện đóng vai trò là chiếc phanh duy nhất đối với quyền lập pháp.
“Về cơ bản, chính phủ Israel đang cố gắng thiết
lập một chế độ độc tài ở đây,” Harari nói, một khía cạnh trong cách phân phối
có phương pháp thường được ông sử dụng. “Tôi nghĩ rằng có một mối đe dọa thực sự
đối với sự tồn tại của nền dân chủ Israel.” Ông nói rằng việc người Israel và
các công ty Israel rời đi là “hoàn toàn đúng” vì “chính phủ đang cố gắng phá bỏ
sự kiểm tra và cân bằng của nền dân chủ Israel”.
“Ví dụ, nếu quốc hội Israel thông qua một đạo
luật lấy đi quyền bầu cử của các công dân Ả Rập – và một số chính trị gia đã
nói về chính xác một đạo luật như vậy – thì cơ quan duy nhất có thể can thiệp,
hủy bỏ một đạo luật như vậy là Tòa án Tối cao. ”
Harari nói rằng một số thành viên của liên
minh muốn có thể “gian lận bầu cử”, “đã chuẩn bị sẵn một danh sách dài các luật
và quy định sẽ phân biệt đối xử với công dân Ả Rập, với phụ nữ, với người LGBT,
với người thế tục” và “giữ quan điểm thiên sai và có niềm tin mãnh liệt vào quyền
tối thượng của người Do Thái.”
Ông nói: “Mặc dù các biện pháp này đã bị tạm dừng
sau các cuộc biểu tình lớn trên đường phố nhưng cuộc khủng hoảng vẫn đang tiếp
diễn. Và nếu chính phủ thành công thì Israel sẽ đi theo con đường giống như Thổ
Nhĩ Kỳ và Nga – những nước vẫn có thể tổ chức các cuộc bầu cử định kỳ, nhưng
không còn là các nền dân chủ thực sự nữa”.
Ông nói, so sánh chính phủ Israel với sự cai
trị của Viktor Orban ở Hungary là không đúng chỗ, bởi vì Israel là “một cường
quốc quân sự lớn với năng lực hạt nhân, cũng như năng lực mạng thực sự có phạm
vi toàn cầu. Người dân ở Vương quốc Anh nên quan tâm đến những gì đang xảy ra ở
Israel vì nó có thể gây bất ổn cho toàn bộ Trung Đông với những hậu quả ngay lập
tức đối với châu Âu”.
Thời gian của tôi với nhà tiên tri đang trôi
qua đến những phút cuối. Nếu tôi phải trả tiền phí thì bây giờ tôi đã phải trả
hơn một triệu đô la rồi. Chúng tôi bàn về cuộc chiến Ukraine (“hậu quả đối với
toàn thể nhân loại có thể là bi thảm”); biến đổi khí hậu (“Tôi nghe mọi người
nói rằng biến đổi khí hậu là điều mà các nền dân chủ vốn dĩ không có khả năng
giải quyết vì nó là một vấn đề lâu dài. Tôi không nghĩ điều đó đúng.”); phong tỏa
do Covid (“trong giai đoạn đầu của đại dịch, khi chúng ta chưa biết mình đang
phải đối mặt với điều gì, thì các biện pháp cực đoan sẽ hợp lý hơn”); quyền của
người chuyển giới (“Quan điểm cá nhân của tôi là truyền thống. Tôi nghĩ rằng giới
tính là một hiện tượng sinh học khách quan trong khi giới tính là văn hóa”); lễ
đăng quang tại Anh (“Thật khó ở một quốc gia đơn lẻ để có hàng chục triệu người
sống cùng nhau và đồng ý về bất cứ điều gì. Ở Anh, gia đình Hoàng gia có một
vai trò biểu tượng rất quan trọng”). Cuối cùng, chúng tôi kết thúc bằng cách
nói về hạnh phúc. Harari kết luận kiểu Sapiens bằng cách lưu ý rằng, mặc dù sự
thịnh vượng của chúng ta đã tăng lên rất nhiều, loài người “dường như vẫn bất
mãn hơn bao giờ hết”. Điều tương tự có xảy ra với bản thân ông ấy không?
“Cuộc đời tôi hoàn toàn thay đổi [vì sự nổi tiếng],”
ông nói. “Mười năm trước không ai muốn phỏng vấn tôi về bất cứ điều gì. Vì vậy,
tôi đã có rất nhiều thời gian để đọc sách và sau đó viết những tư tưởng của
mình. Nổi tiếng ở cấp độ cá nhân, nó thường chỉ tạo ra nhiều vấn đề hơn.” Tuy
nhiên, cân bằng lại thì bạn bè, thiền định và trị liệu, và rũ bỏ những lo lắng
của tuổi trẻ, tất cả đều có nghĩa là “Bây giờ tôi hạnh phúc hơn”.
Đó là một cách lạc quan để kết thúc cuộc thảo
luận với một người, giống như một số nhà tiên tri cổ xưa, thỉnh thoảng bị chỉ
trích vì đã đưa ra những phân tích u ám về tình trạng của loài người nhưng lại
không đưa ra phương pháp chữa trị nào (cuốn sách nổi tiếng nhất của ông kết luận:
“Chế độ của con người trên Trái đất đã đã tạo ra rất ít thứ mà chúng ta có thể
tự hào”).
Nhưng vào thời điểm chúng tôi kết thúc cuộc
nói chuyện, Harari không có khả năng mô tả một cách tao nhã quá nhiều các thảm
họa tiềm tàng mà tôi cảm thấy vô cùng lo lắng, cũng như việc Harari không thể
nói tại sao loài người chúng ta lại có thói quen tàn phá như vậy. Những lời của
ông vang vọng bên tai tôi: “Điều tốt nhất tôi có thể nói là lịch sử đầy rẫy những
sai lầm. Rất nhiều sự kiện lớn không phải là kết quả của một số lực lượng không
thể tránh khỏi của lịch sử. Chúng chỉ đơn giản là kết quả của việc con người mắc
phải những sai lầm khủng khiếp. Điều cơ bản bạn cần giả định là mọi người đều
có thể sai lầm. Con người là tệ hại, đầy những hỏng hóc. Một thể chế tốt hay một
đất nước tốt là một thể chế có cơ chế tự điều chỉnh mạnh mẽ.”
Giống như Tòa án Tối cao của Israel. Harari
cho rằng, đó là một bài học không chỉ là chìa khóa cho sự tồn tại của quốc gia
Israel của ông với tư cách là một nền dân chủ, mà còn cho sự tồn tại của thế giới.
HÌNH : https://www.facebook.com/photo?fbid=6377483162290310&set=a.124320747606614
No comments:
Post a Comment