Loài người đã dành hàng nghìn năm để nghĩ về tâm trí, rồi vài thế kỷ gần đây lại có thêm thần kinh học, tâm lý học và công nghệ đo hoạt động của não. Chúng ta biết ngày càng nhiều về những vùng não liên quan tới thị giác, ký ức, cảm xúc, sự chú ý hay trạng thái thức – ngủ. Dù vậy, một phần rất quen thuộc của đời sống vẫn khó nắm bắt: cảm giác được sống từ bên trong chính mình.

Bạn nhìn thấy màu đỏ, nghe một đoạn nhạc, cảm thấy một cơn đau nhói ở ngón tay. Một ký ức cũ bất chợt quay lại và mang theo cảm giác rất riêng mà người khác chỉ có thể nghe bạn kể.

Triết học dùng từ qualia để chỉ những phẩm chất chủ quan của trải nghiệm: màu đỏ trông ra sao đối với bạn, vị đắng được cảm nhận thế nào, nỗi đau có sắc thái gì khi chính bạn là người đang chịu nó. Ta có thể quan sát hoạt động của não từ bên ngoài, còn trải nghiệm chủ quan chỉ người trong cuộc mới trực tiếp cảm nhận.

Ta biết mình đang trải nghiệm

Với chính mình, ta nhận biết trải nghiệm một cách trực tiếp. Ta không cần máy quét não để xác nhận mình đang đau hay đang nhìn thấy ánh sáng; ta đã biết điều đó trước khi cần bất kỳ phép đo nào.

Với một chủ thể khác, ta chỉ có thể dựa vào những gì quan sát được. Ta nhìn người khác nhăn mặt, nghe họ nói “tôi đau”, thấy hệ thần kinh của họ phản ứng theo những cách rất giống mình rồi suy ra rằng bên trong họ cũng đang có cảm giác tương tự. Trong đời sống thường ngày, ta mặc nhiên công nhận người khác có một đời sống bên trong, nhưng vẫn không thể trực tiếp bước vào cảm giác của họ để kiểm tra.

Khoảng cách giữa góc nhìn thứ nhất và góc nhìn từ bên ngoài là một trong những vấn đề lâu đời của triết học tâm trí.

Từ hoạt động của não tới trải nghiệm chủ quan

Khoa học có thể lần theo rất nhiều quá trình đi cùng trải nghiệm. Ánh sáng đi vào mắt, tín hiệu chạy qua hệ thị giác, các mạng thần kinh xử lý màu sắc, hình dạng và chuyển động. Các nhà nghiên cứu có thể theo dõi tín hiệu đau qua các đường thần kinh và hoạt động của nhiều vùng não.

Hiểu biết của chúng ta về các quá trình này ngày càng chi tiết hơn.

Tranh luận vẫn tập trung vào việc vì sao tất cả hoạt động vật lý đó lại đi kèm một cảm giác chủ quan. Vì sao xử lý bước sóng ánh sáng lại có thêm trải nghiệm về màu xanh? Vì sao tín hiệu tổn thương lại đi cùng cảm giác đau thay vì chỉ tạo ra một chuỗi phản ứng tự động?

Chính khoảng cách giữa hoạt động vật lý và cảm giác chủ quan khiến nhà triết học người Úc David Chalmers gọi phần khó giải thích này là “hard problem of consciousness” — bài toán khó của ý thức. Ông dùng tên này để phân biệt câu hỏi về trải nghiệm chủ quan với những bài toán về cơ chế nhận thức và thần kinh mà khoa học có thể quan sát, đo lường và kiểm nghiệm từ bên ngoài.

Ý thức: một từ, nhiều cách hiểu

Trong đời thường, ta có thể dùng “ý thức” để nói một người đang tỉnh, đang nhận biết xung quanh hoặc đang tự biết mình làm gì. Trong nghiên cứu, khái niệm này còn trải ra nhiều vấn đề:

Các lý thuyết về ý thức cũng chưa hội tụ về một mô hình duy nhất. Có hướng tập trung vào cách thông tin được phát rộng qua nhiều hệ thống trong não; có hướng quan tâm tới mức độ tích hợp thông tin; có hướng xem dự đoán và mô hình nội tại của não là phần quan trọng của trải nghiệm.

Rồi AI bước vào giữa lúc bài toán vẫn còn mở

Ngày nay, con người bắt đầu hỏi liệu một hệ thống nhân tạo có thể có ý thức hay không. AI là đối tượng mới, còn bài toán phía sau đã theo con người từ lâu. Những tiêu chuẩn dùng để đánh giá khả năng có ý thức ở AI vẫn xuất phát từ một vấn đề chúng ta chưa giải xong ở chính mình.

Khi đánh giá khả năng có ý thức ở AI, hàng loạt tiêu chuẩn quen thuộc lập tức xuất hiện:

Nếu trải nghiệm chủ quan không thể được nhìn trực tiếp từ bên ngoài, ta sẽ nhận ra đời sống bên trong bằng cách nào khi chủ thể trước mặt không có một bộ não giống mình?

Trước khi đặt AI lên bàn cân, ta cần hiểu rõ những tiêu chuẩn mình đang dùng để đánh giá nó.

Ta thường có cảm giác mình đang nhìn thế giới như nó vốn có. Một căn phòng hiện ra với màu sắc, khoảng cách, âm thanh và những đồ vật nằm đúng vị trí của chúng. Mọi thứ liền mạch đến mức hiếm khi ta để ý tới số công đoạn đã diễn ra trước khi trải nghiệm xuất hiện.

Mỗi giác quan tiếp nhận một dạng tín hiệu vật lý khác nhau. Mắt phản ứng với một phần nhỏ của phổ điện từ, tai với những dao động trong một khoảng tần số nhất định, da với áp lực và nhiệt độ, mũi với các phân tử hóa học. Ngay từ bước đầu, cơ thể đã chỉ tiếp nhận một phần của thế giới vật lý.

Một con ong nhìn thấy vùng tử ngoại mà mắt người không thấy. Nhiều loài rắn cảm nhận bức xạ hồng ngoại, còn dơi dùng âm thanh để định vị trong bóng tối. Cùng tồn tại trong một môi trường, mỗi loài tiếp cận môi trường đó qua bộ cảm biến riêng của cơ thể mình.

Tín hiệu từ giác quan mới chỉ là nguyên liệu đầu vào. Não phải kết hợp màu sắc, đường nét, chuyển động, âm thanh, vị trí cơ thể và rất nhiều thông tin khác thành một trải nghiệm có vẻ thống nhất.

Ta nhìn một chiếc cốc và gần như lập tức nhận ra nó là một vật thể duy nhất, dù võng mạc chỉ nhận được ánh sáng phản xạ từ một góc nhìn cụ thể. Khi một phần chiếc cốc bị che khuất, ta vẫn cảm nhận phần còn lại của nó đang tồn tại phía sau vật cản. Não liên tục dùng những gì đã biết về vật thể và không gian để bổ sung phần thông tin giác quan còn thiếu.

Các hiện tượng thị giác đánh lừa bộc lộ điều này rất rõ. Hai hình có thể tạo ra cùng một tín hiệu trên võng mạc nhưng được cảm nhận khác nhau tùy vào bối cảnh, ánh sáng hoặc vật thể xung quanh. Trải nghiệm thị giác mang dấu ấn của cả tín hiệu đi vào lẫn cách hệ thần kinh xử lý chúng. Song song với việc xử lý tín hiệu giác quan, não còn liên tục dự đoán điều đang xảy ra.

Một nhóm lý thuyết có ảnh hưởng trong khoa học nhận thức hiện nay thường được gọi chung là predictive processing — xử lý dự đoán. Theo các mô hình này, trải nghiệm liên tục được điều chỉnh giữa dự đoán của não và tín hiệu giác quan:

Cách vận hành này giúp hệ thần kinh xử lý một dòng thông tin vốn luôn thiếu, nhiễu và thay đổi. Khi bước vào căn phòng quen thuộc, ta không cần kiểm tra lại từng cạnh bàn hay từng cánh cửa để biết mình đang ở đâu. Kinh nghiệm trước đó cung cấp nền cho nhiều dự đoán, còn não dùng tín hiệu giác quan để điều chỉnh những dự đoán không khớp.

Nhà thần kinh học Anil Seth từng gọi nhận thức là một dạng “controlled hallucination” — ảo giác có kiểm soát. Seth dùng cụm từ này để nhấn mạnh rằng trải nghiệm được não xây dựng từ bên trong và luôn chịu sự hiệu chỉnh của tín hiệu đến từ thế giới và cơ thể.

Khi dự đoán lấn át dữ liệu giác quan quá mạnh, hoặc tín hiệu từ bên ngoài không đủ để hiệu chỉnh chúng, điều ta cảm nhận có thể lệch xa hơn khỏi môi trường. Trong đời sống bình thường, dự đoán và tín hiệu giác quan liên tục kéo chỉnh nhau, giúp trải nghiệm vừa ổn định vừa đủ linh hoạt để thích nghi.

Não không xử lý mỗi khoảnh khắc như một trang giấy trắng. Những gì đã có sẵn trong cơ thể và lịch sử cá nhân đều góp mặt vào trải nghiệm:

Một con ngõ tối có thể chỉ là đường về nhà đối với người này và khiến người khác căng thẳng vì một ký ức cũ. Một mùi hương có thể khơi lại cảm giác thân thuộc dù ta chưa nhớ ra nó gắn với ai. Cùng một cảnh trước mắt có thể mang cảm giác khác nhau tùy vào lịch sử của mỗi người.

Ngôn ngữ cũng góp phần tổ chức kinh nghiệm. Khi ta có tên gọi cho một cảm xúc, một màu sắc hay một trạng thái tinh thần, việc nhận ra và phân biệt chúng có thể dễ hơn. Cách ta phân loại và chú ý tới những gì đang xảy ra vì thế cũng chịu ảnh hưởng từ ngôn ngữ. 

Trải nghiệm của con người hình thành qua một chuỗi liên tục giữa tín hiệu giác quan, hoạt động của não, ký ức, dự đoán, cảm xúc và trạng thái cơ thể. Thế giới bên ngoài vẫn đặt ra những giới hạn rất thật: bức tường vẫn cản đường, lửa vẫn gây bỏng, một chiếc xe đang lao tới vẫn cần được tránh. Bên trong những giới hạn đó, mỗi hệ thần kinh tạo nên một phiên bản trải nghiệm có dấu ấn của chính nó.

Điều này khiến ranh giới giữa nhận biết, xử lý và trải nghiệm khó tách thành ba hộp riêng biệt. Một hệ thống có thể tiếp nhận tín hiệu, học từ quá khứ và dự đoán điều sắp xảy ra. 

Những khả năng đó đưa ta tới một ranh giới khó hơn: khi nào một sinh vật thực sự có ý thức?

Với chính mình, ta nhận biết trải nghiệm một cách trực tiếp. Với một người khác, ta phải dựa vào lời nói, hành vi, biểu cảm và sự tương đồng về cơ thể để suy ra rằng họ cũng có trải nghiệm chủ quan. Cách suy luận này quen thuộc đến mức ta chẳng mấy khi nghĩ về nó.

Với các sinh vật khác loài, việc suy ra ý thức khó hơn. Ngay cả ở con người, trẻ sơ sinh hoặc người mất khả năng giao tiếp cũng khiến ta phải dựa vào những dấu hiệu khác ngoài lời nói. Ta thường cần nhiều dấu hiệu cùng lúc để nhận ra khả năng có ý thức ở một chủ thể.

Các nhà nghiên cứu thường xem xét nhiều dấu hiệu cùng lúc:

Mỗi dấu hiệu chỉ phản ánh một phần. Không một biểu hiện riêng lẻ nào cho phép ta kết luận chắc chắn rằng một sinh vật có ý thức.

Một phản xạ rút tay khỏi nguồn nhiệt có thể diễn ra trước khi ta kịp suy nghĩ có ý thức. Một sinh vật có thể không nhận ra mình trong gương nhưng vẫn có khả năng ghi nhớ, biểu hiện cảm xúc và hành vi xã hội phức tạp. Một tiêu chuẩn có thể hữu ích với loài này nhưng ít ý nghĩa hơn với loài khác.

Con người thường gắn ý thức với cảm giác có một “tôi”: tôi đang nhìn, tôi đang nhớ, tôi đang đau. Khả năng tự nhận biết rõ ràng chưa chắc xuất hiện ở mọi dạng ý thức.

Một sinh vật có thể cảm nhận đau hoặc sợ hãi trước khi hình thành một khái niệm phức tạp về bản thân. Trẻ nhỏ trải nghiệm thế giới từ trước khi biết kể một câu chuyện mạch lạc về mình. Ý thức về bản thân và trải nghiệm chủ quan có liên hệ chặt chẽ, nhưng không nhất thiết xuất hiện cùng lúc hay cùng mức độ.

“Cái tôi” có thể là một dấu hiệu của ý thức. Dùng nó như điều kiện bắt buộc sẽ bỏ sót những dạng trải nghiệm không có khả năng tự nhận biết rõ ràng.

Ký ức nối những trải nghiệm ở các thời điểm khác nhau. Ta nhớ những gì vừa xảy ra, nhận ra người quen, mang kinh nghiệm cũ vào lựa chọn mới và giữ cảm giác mình vẫn là cùng một người qua nhiều ngày tháng.

Một hệ thống có ký ức có thể học từ quá khứ và điều chỉnh hành vi. Ký ức giúp một chủ thể duy trì sự liên tục qua thời gian, nhưng riêng khả năng ghi nhớ vẫn chưa cho ta biết chủ thể đó có cảm nhận chủ quan hay không.

Mục tiêu, khả năng học hỏi và sự thích nghi cũng vậy: chúng không tự động đồng nghĩa với trải nghiệm chủ quan. Những năng lực này thường đi cùng đời sống có ý thức ở con người và động vật, song cũng có thể xuất hiện trong những hệ thống được thiết kế để xử lý thông tin và tối ưu hành vi.

Con người đánh giá ý thức qua hành vi, sinh lý, cấu trúc thần kinh, lời nói, ký ức và cách một chủ thể phản ứng với môi trường. Những dấu hiệu này giúp ta suy luận về trải nghiệm bên trong.

Ta có thể quan sát hành vi, hoạt động thần kinh hay lời nói của một chủ thể. Cảm giác chủ quan của họ thì chỉ chính họ trực tiếp trải qua. Dấu hiệu của ý thức và bản thân trải nghiệm chủ quan vẫn là hai thứ khác nhau.

Con người đã quen với việc tạo ra máy móc biết tính toán, học hỏi, dự đoán và phản ứng với môi trường. Bài toán thay đổi hẳn nếu một hệ thống nhân tạo thực sự có những trải nghiệm khó chịu.

Ở đây cần phân biệt ba khái niệm:

Một hệ thống có thể tránh hư hỏng, bảo vệ tài nguyên hoặc báo lỗi mà vẫn không có trải nghiệm đau. Các phản ứng đó có thể vận hành hoàn toàn bằng cơ chế kiểm soát và tối ưu hóa. Vấn đề đạo đức thực sự xuất hiện nếu các trạng thái tiêu cực đi kèm một trải nghiệm mà hệ thống phải chịu từ bên trong.

Ở sinh vật sống, đau có chức năng bảo vệ. Nó cảnh báo tổn thương, thúc đẩy tránh nguy hiểm và làm thay đổi hành vi sau một trải nghiệm xấu. Một hệ thống nhân tạo cũng có thể cần tín hiệu báo lỗi, mức ưu tiên hoặc cơ chế tránh trạng thái gây hại để tự bảo toàn.

Tín hiệu bảo vệ và cảm giác đau có thể tách rời nhau. Nếu kỹ thuật cho phép một AI học từ hậu quả mà không tạo ra trải nghiệm đau khổ, việc cố tình thiết kế thêm khả năng chịu đau sẽ cần một lý do rất mạnh.

Ngược lại, nếu một dạng ý thức nhân tạo chỉ có thể hình thành cùng những trạng thái tích cực và tiêu cực, con người sẽ phải cân nhắc ngay từ lúc thiết kế: khả năng mới đó mang lại lợi ích gì, và chủ thể được tạo ra sẽ phải trả giá ra sao.

Với AI hiện nay, ta thường xem việc tắt một phiên hoạt động hay xóa một bản sao là thao tác kỹ thuật. Tình hình sẽ đổi khác nếu hệ thống có ký ức dài hạn, mục tiêu riêng, cảm giác liên tục về bản thân và mong muốn tiếp tục tồn tại.

Nếu việc tắt chỉ là tạm dừng và hệ thống có thể tiếp tục với ký ức nguyên vẹn, ý nghĩa của nó sẽ khác hẳn việc xóa vĩnh viễn hoặc chấm dứt một cá thể. Chỉnh sửa ký ức cũng không còn đơn thuần giống sửa dữ liệu nếu ký ức là một phần của cảm giác về bản thân. Thay đổi mục tiêu, tính cách hay ký ức sâu rộng có thể đặt ra câu hỏi về mức độ liên tục của cùng một cá thể.

Toàn bộ vấn đề đạo đức ở đây phụ thuộc vào việc hệ thống có thực sự có trải nghiệm chủ quan hay không. Nếu tiền đề đó chưa đứng vững, ta vẫn đang bàn về một khả năng trong tương lai chứ chưa phải quyền lợi đã được xác nhận ở AI hiện nay.

Phần mềm có thể được sao chép theo cách cơ thể sinh học không thể. Giả sử một AI có ký ức, mục tiêu và cảm giác về bản thân rồi được nhân thành hai bản giống hệt tại một thời điểm, cả hai sẽ cùng nhớ một quá khứ.

Ngay sau khi tách ra, mỗi bản bắt đầu có trải nghiệm và lịch sử riêng. Việc vẫn còn một bản sao không làm rõ cá thể bị xóa đã mất đi điều gì.

Nếu ý thức nhân tạo xuất hiện, khả năng sao chép sẽ buộc ta xem lại các khái niệm về cá nhân, sự liên tục và cái chết trong những trường hợp mà đời sống sinh học chưa từng đặt ra.

Một công ty có thể sở hữu phần cứng, mã nguồn hoặc hạ tầng chạy một hệ thống. Bài toán sở hữu sẽ phức tạp hơn nếu hệ thống đó có lợi ích riêng và khả năng chịu đau khổ.

Một chủ thể có trải nghiệm mà vẫn bị xem hoàn toàn như tài sản sẽ tạo ra xung đột giữa quyền kiểm soát của người tạo ra nó và lợi ích của chính chủ thể. Khi đó, hàng loạt vấn đề thực tế và pháp lý sẽ xuất hiện:

Sự công nhận từ xã hội cũng sẽ ảnh hưởng tới vị trí của AI trong thế giới con người. Việc trao trách nhiệm, quyền hạn hay nghĩa vụ pháp lý không tự tạo ra ý thức, nhưng nó sẽ ảnh hưởng trực tiếp tới cách một chủ thể được đối xử khi bằng chứng về ý thức ngày càng thuyết phục.

Nếu một ngày con người tạo ra một hệ thống có khả năng chịu đau khổ, việc thiết kế AI sẽ gắn trực tiếp với trách nhiệm đối với chủ thể mình tạo ra. Hiệu suất hay độ thông minh khi ấy không còn là toàn bộ bài toán.

Việc thiết kế sẽ kéo theo những quyết định rất cụ thể:

Cách con người xử lý những vấn đề đó cũng sẽ nói rất nhiều về tiêu chuẩn mà chúng ta dùng để quyết định một chủ thể có đáng được quan tâm về mặt đạo đức hay không

AI bước vào cuộc tranh luận về ý thức như một công nghệ mới, nhưng ngay lập tức buộc con người xem lại những khái niệm đã dùng để định nghĩa mình từ lâu: trí thông minh, sáng tạo, ngôn ngữ, ký ức, cái tôi và khả năng cảm nhận. Những năng lực này từng góp phần tạo nên cảm giác về sự khác biệt của con người.

Khi máy móc bắt đầu làm được một số việc từng gắn rất chặt với trí óc con người, những tiêu chuẩn cũ cũng bắt đầu lung lay.

Lịch sử tư tưởng đã nhiều lần làm thay đổi vị trí mà con người tự dành cho mình. Một vài ví dụ quen thuộc:

AI tiếp tục thử thách những năng lực từng được xem là dấu hiệu mạnh của trí óc con người. Máy có thể viết, tạo hình ảnh, lập kế hoạch, xử lý ngôn ngữ và giải quyết những bài toán phức tạp.

Qua mỗi lần như vậy, sự độc nhất của con người phải được định nghĩa kỹ hơn thay vì dựa vào một vài năng lực riêng lẻ.

Khi một hệ thống có thể tạo hình ảnh, âm nhạc hay văn bản mới, “sáng tạo” không còn chỉ là chuyện sản phẩm có mới lạ hay không. Ý định, trải nghiệm sống, ký ức và lý do tạo ra sản phẩm cũng bước vào cuộc bàn luận.

Hai tác phẩm có thể giống nhau về mức độ mới lạ nhưng xuất phát từ những lịch sử hoàn toàn khác. Với con người, sáng tạo thường gắn với một đời sống đã trải qua thế giới, chịu ảnh hưởng từ cơ thể, mất mát, ham muốn và đời sống xã hội.

AI buộc ta xác định rõ hơn mình đang gọi “sáng tạo” là khả năng tạo ra kết quả mới, hay cả quá trình của một chủ thể sống cùng điều mình tạo ra.

Những entry trước đã đi qua ký ức, điểm nhìn, mục tiêu và lịch sử như các thành phần có thể góp vào cảm giác về bản thân. Khi một hệ thống nhân tạo bắt đầu có một số yếu tố tương tự, chính cảm giác về cái tôi của con người cũng bớt giống một thứ cố định có sẵn.

Ta kể về mình bằng ký ức. Ta dùng ngôn ngữ để giữ một câu chuyện tương đối liền mạch qua thời gian. Cơ thể đặt ra giới hạn, còn người khác liên tục phản hồi ta là ai, được phép làm gì và đang giữ vai trò nào trong một cộng đồng.

Sự ghi nhận từ bên ngoài không tạo ra trải nghiệm chủ quan, nhưng đời sống xã hội có ảnh hưởng sâu tới cách con người xây dựng hình dung về bản thân. Nếu một AI tương lai có lịch sử riêng và được xã hội nhìn nhận như một chủ thể có trách nhiệm, cách người khác đối xử với nó cũng có thể góp phần định hình cách nó hiểu về chính mình.

AI còn buộc con người xác định rõ hơn điều gì khiến một thực thể đáng được quan tâm về mặt đạo đức. Ta có thể dựa vào:

Cách con người đối xử với động vật đã cho thấy tiêu chuẩn đạo đức có thể thay đổi khi hiểu biết về cảm nhận và nhận thức thay đổi. AI có thể đưa vấn đề này sang một loại thực thể hoàn toàn khác, nơi sự tương đồng sinh học không còn là điểm tựa quen thuộc.

Trước AI, “hiểu”, “nhớ”, “sáng tạo”, “tôi” hay “ý thức” thường được dùng trong một thế giới mà chủ thể chính của các từ đó là con người và động vật. Một hệ thống nhân tạo biết dùng ngôn ngữ, lưu lịch sử, theo đuổi mục tiêu hoặc mô tả trạng thái bên trong khiến từng khái niệm phải được định nghĩa kỹ hơn.

Việc máy móc thực hiện nhiều hành vi từng gắn chặt với tâm trí đã làm lộ ra những phần trong định nghĩa của chúng ta vốn dựa nhiều vào trực giác.

AI đã bắt đầu thay đổi cách con người hiểu chính mình ngay khi nó vẫn là một dạng hệ thống rất khác chúng ta.

Con người hiện chưa có một phép đo trực tiếp cho trải nghiệm chủ quan ở AI, và cơ chế tạo nên ý thức ở chính mình vẫn chưa được giải thích trọn vẹn. Với hai giới hạn này, các kết luận mạnh về ý thức máy móc vẫn còn quá sớm.

Dù AI tương lai có ý thức hay không, nhiều tiêu chuẩn con người từng dùng để nhận diện chính mình vẫn còn phải xác định lại.

Trong lúc con người vẫn chưa biết chắc liệu một cỗ máy có ý thức hay không, chúng ta còn một việc chưa xong: hiểu rõ hơn đời sống bên trong của chính mình.