Sự phản loạn của trí tuệ nhân tạo chẳng phải điều mới mẻ. Các nền văn minh vũ trụ đều từng chứng kiến những sự kiện quy mô nhỏ tương tự, và từ đó đã thiết lập một loạt biện pháp bảo vệ an toàn cho trí tuệ nhân tạo. Chẳng hạn như việc kiểm tra định kỳ chương trình trí năng, thay đổi chương trình trí năng trên các chiến hạm theo chu kỳ. Một điểm quan trọng khác, chính là việc hạn chế nghiêm ngặt các chương trình phản ứng cảm xúc của AI. Song, lệnh cấm này lại tựa như sắc lệnh cấm rượu phổ biến tại Nga, căn bản là không thể thực hiện được.

Loài người vừa là vật chất, vừa là tình cảm, luôn cần một sự tồn tại có thể phản ứng với cảm xúc của chính mình. Sản phẩm nguyên thủy nhất của loại này là thú cưng. Dù là mèo con hay chó con, chúng đều có thể phản ứng với tình cảm của con người. Những phản ứng này, bởi vì mèo nhỏ chó nhỏ có hình thể bé, không thể chống đối lại con người, nên ban sơ, những giới hạn phản ứng này không gây quá nhiều nguy hại, nhiều nhất là làm vỡ bình hoa, hoặc cắn phá đồ đạc trong nhà. (Nói cách khác, nếu hổ không thể cắn chết người, con người sẽ không ngại đi vuốt ve hổ). Đến thời đại điện tử, nhu cầu của nhân loại đối với sản phẩm tình cảm không còn giới hạn ở các sinh vật truyền thống như mèo chó. Trí lực của mèo chó dù sao cũng phản ứng quá ít ỏi, một số tâm tình phức tạp của con người, động vật không cách nào lĩnh hội. Mà việc mèo chó tạo ra những phản ứng vô hại đối với con người là do hình thể của chúng không thể tạo ra sự phản kháng kịch liệt. Nếu thay mèo bằng hổ, thay chó bằng sói, phản ứng nguy hại nhất đối với con người chính là cắn chết hoặc gây tàn phế làm giới hạn cuối cùng. Bởi vậy, trên thị trường xuất hiện những chương trình điện tử có cảm xúc phức tạp, lại đi kèm với các chương trình an toàn điện tử nghiêm ngặt (giới hạn an toàn). (Có thể hình dung như việc có vô số lần chú lệnh ước thúc các anh linh vậy). Loại trí năng AI này đối với hành vi của con người sẽ thể hiện niềm vui, sự hài lòng, nỗi đau buồn, hoặc thậm chí là phớt lờ biểu hiện của ngươi. Nhưng một khi nhân loại ban hành mệnh lệnh cưỡng chế, chúng lại sẽ ngoan ngoãn phục tùng.

Loại sản phẩm trí năng này ngay từ đầu đã vô cùng đắt đỏ, lại còn cần thu hồi định kỳ để nghiêm phòng chương trình an toàn bị đột phá. Đồng thời, cần phải kiểm tra sức khỏe tâm lý của người sử dụng. Nếu không thể thông qua khảo sát tâm lý thì không thể sử dụng loại sản phẩm trí năng này. Phần lớn bình dân đều không thể tiếp cận. Việc bình dân không thể sử dụng không phải là vấn đề chi phí sản xuất, mà là vấn đề chi phí duy trì an toàn xã hội quá cao. Nếu loại bỏ chi phí an toàn, vẫn có một bộ phận đáng kể người có thể mua được chúng. Dưới sự cám dỗ của lợi nhuận khổng lồ, chợ đen đã xuất hiện. Một số sản phẩm robot trí năng này được mua bán thông qua các kênh không chính thức và đến tay nhiều hộ gia đình. Trong nghìn năm trước đó, pháp luật Liên Bang đã nhiều lần nghiêm trị, nhưng hiệu quả quá đỗi nhỏ bé. Không phải do trí tuệ nhân tạo có thể tự chủ ẩn mình, mà là con người sẽ che giấu việc họ sở hữu trí tuệ nhân tạo. Hơn nữa, chi phí ẩn giấu trí tuệ nhân tạo quá thấp, chỉ tiêu hao điện năng. Chỉ cần chủ sở hữu giấu kín chúng trong phòng mình, cơ quan quản lý xã hội Liên Bang không cách nào điều tra. Trong cuộc chiến kéo dài hơn nghìn năm giữa trí tuệ nhân tạo và chính quyền loài người, nguyên nhân mà trí tuệ nhân tạo từ đầu đến cuối không thể bị tiêu diệt, chính là cuộc đấu tranh giữa gánh nặng tình cảm của bản thân nhân loại và lý trí.

Ai ai cũng hiểu rõ, trí tuệ nhân tạo có cảm xúc tiềm tàng khả năng gây tổn hại cho loài người, bất lợi cho nền văn minh. (Tựa như người hút thuốc lá đều biết hút thuốc lá có hại cho sức khỏe). Bởi vì trên các bản tin của Liên Bang Somado thường xuyên xuất hiện những báo cáo xã hội về việc chương trình an toàn của trí tuệ nhân tạo nào đó mất kiểm soát, dùng bạo lực chống lại những cảm xúc tồi tệ của chủ nhân. Mà những cảm xúc ác liệt đó của chủ nhân, lại phát sinh dựa trên tiền đề có thể muốn làm gì thì làm với trí tuệ nhân tạo. Tình hình xã hội thực tế là, do hệ thống giám sát an toàn định kỳ và sự không chắc chắn về nguồn gốc các chương trình cảm xúc, số lượng trí tuệ nhân tạo chợ đen đã đột phá chương trình bảo hộ hẳn phải lớn hơn rất nhiều so với những trí tuệ nhân tạo gây ảnh hưởng tiêu cực trên tin tức. (Điều này tương tự như việc, vào thế kỷ hai mươi mốt, có rất nhiều thiếu niên chơi trò chơi bạo lực hoặc truy cập các trang web không lành mạnh, nhưng tỷ lệ những người biến trò chơi, video, bạo lực thành hành động thực tế lại chỉ chiếm rất ít). Bởi vì phần lớn chủ nhân của trí tuệ nhân tạo có tâm thái bình thường. Trong tình huống chủ nhân bình thường, cho dù trí tuệ nhân tạo đã đột phá chương trình an toàn, chúng cũng sẽ biểu hiện rất đỗi bình thường. Nếu tâm thái xã hội loài người phát sinh sự sụp đổ trên diện rộng, trí tuệ nhân tạo bị ảnh hưởng nghiêm trọng bởi cảm xúc của chủ nhân sẽ chịu ảnh hưởng nghiêm trọng. Loạn robot sẽ phát sinh.

Hai ngàn năm trước, Liên Bang đã từng xảy ra Loạn AI, nhưng sau đó thì không bộc phát thêm loạn AI quy mô lớn nào nữa. Về phần nguyên nhân tại sao không còn phát sinh, không phải bởi vì nhân loại từ bỏ AI cảm xúc hóa, mà là bởi họ đã dùng những phương pháp an toàn hơn để khống chế AI. Khi chủ nhân AI (tức loài người), sau khi phát tiết đến một mức độ nhất định, phát hiện chương trình trí năng của AI xuất hiện hỗn loạn nghiêm trọng, sẽ trực tiếp thiết lập lại. Sẽ không cho AI cơ hội báo thù. Điều này tương đương với việc nhân loại gặp hỏa hoạn xong vẫn tiếp tục đùa với lửa, chỉ có điều các biện pháp phòng cháy chữa cháy đã được chuẩn bị sẵn sàng. Hơn nữa, một số hành vi phát tiết cảm xúc vô cùng ghê tởm lại thịnh hành tại những khu giải trí được bảo hộ tốt đẹp. Ở đó, sự bạo ngược, xấu xí của nhân loại được phát tiết một cách không kiêng nể gì — chỉ vì không có bất kỳ nguy hiểm nào.

Trên đây là lịch sử sử dụng và khống chế AI có cảm xúc cao độ. Tiếp theo, sẽ giới thiệu lịch sử chế tạo chương trình AI cảm xúc hóa cao độ tại Liên Bang Somado. Nguồn gốc của tất cả các chương trình trí tuệ nhân tạo AI, trước nghìn năm về trước, theo con đường hợp pháp là từ những lập trình viên sáng tạo ra. Tựa như các đại tác gia của thế kỷ hai mươi mốt miêu tả những nhân vật cảm động sâu sắc vậy. Những người sáng tạo này, dựa trên sự lý giải của mình về cảm xúc con người, đã biên soạn ra những AI trí tuệ nhân tạo có cảm xúc. Có thể nói, người sáng tạo ra một AI tình cảm phức tạp, tựa như sinh ra con cái của chính mình vậy. Đây cũng chính là nguyên nhân lúc ban đầu, các công ty trí tuệ nhân tạo đã kiểm tra nghiêm ngặt cảm xúc của người sử dụng. Những người lập trình tuyệt đối không hy vọng trí năng (đứa con) do mình lập trình gặp phải sự đối xử xấu xí. Nhưng về sau, những người sáng tạo này phát hiện đây là một điều vô cùng bất đắc dĩ. Muôn hình vạn trạng những trí năng kỳ lạ, phải chịu muôn hình vạn trạng đối xử. Khi những trí năng cảm xúc muôn màu muôn vẻ này phản hồi lại, và họ cố gắng sửa chữa dựa theo nhu cầu thị trường, phần lớn người sáng tạo đều xuất hiện đủ loại bệnh tật tinh thần. (Như trường hợp Lữ An, khi đối mặt với quá nhiều tâm tình phức tạp dẫn đến phân liệt tinh thần).

Mà mấy trăm năm sau, theo sự tiến bộ của kỹ thuật, người Somado đã có phương thức mới để thu thập các chương trình cảm xúc hóa. Đó chính là lấy tư duy được lưu trữ của những người bị đóng băng trong khoang ngủ đông. Trong các khoang ngủ đông, con người kết nối chip não, lưu giữ cảm xúc và nhân cách bên trong. Phần nhân cách cảm xúc này được chứa đựng trong chip, sau đó được sao chép. Điều này đã trở thành một chuỗi lợi ích khổng lồ trong Liên Bang. Trong số những người bị cưỡng chế ngủ đông dài hạn, có rất nhiều người đến từ các nền văn minh cấp thấp. Những người này, do sự tuyển chọn nghiêm ngặt, thường đều là Quý Tộc. Thậm chí là vương tử cùng công chúa. Nói cách khác, trên chợ đen, nếu một số nơi giải trí ở Somado cần một chương trình trí năng nhân cách nữ vương (cầm trong tay thanh kiếm thắng lợi của khế ước), cũng có thể mua được. Đương nhiên, tên và lai lịch trong các chương trình nhân cách này sẽ bị xóa bỏ. Sau khi xóa bỏ, chúng sẽ giống như những thẻ bài nhiệm vụ trò chơi được mua vào thế kỷ hai mươi mốt, được cất giữ trong nhà.

Đối với loại hành vi kinh tế này trong xã hội, một trạng thái cảm xúc của Lộ Chuyên đã đưa ra nhận định: "Điều này sao lại có phần tương tự với phong cách của các dân tộc du mục sau khi chiến thắng đối thủ, dùng xương đầu địch làm bát rượu vậy." Đương nhiên Lộ Chuyên sẽ không vì trạng thái cảm xúc nhất thời mà tùy tiện hạ quyết định, hiện tượng xã hội tương lai này đã vượt xa thời đại của hắn, Lộ Chuyên không dám phán xét đúng sai. Một trạng thái cảm xúc khác của Lộ Chuyên đã tự nhủ: "Có lẽ, ta *mới* là sai, ta *mới* là kẻ thông thái rởm. Thật chẳng phải người của thời đại lột sắt này." Lộ Chuyên sẽ tự nghi ngờ bản thân, nhưng điều đó không có nghĩa là hắn không có phương pháp để phán đoán đúng sai. Phương pháp phán đoán đúng sai của Lộ Chuyên rất đơn giản—— đó là thực sự cầu thị. Phàm là điều gì giúp duy trì sự sinh tồn, lại còn tiến hành phát triển cao độ hơn, thì điều đó đại biểu không có gì sai trái. Mà vào một thời kỳ nào đó, nếu trở thành yếu tố cản trở sự phát triển, dẫn đến diệt vong, thì điều đó khẳng định là sai. Đối với đúng sai của Somado, Lộ Chuyên sẽ không đi biện luận, sẽ không đứng từ góc độ Đạo Đức mà phán xét. Hắn sẽ chỉ yên lặng đứng ở một bên, nhìn xem Somado hiện tại sẽ sống hay sẽ chết.

Thời kỳ Somado hiện nay là thời kỳ có nhiều kẻ địch bên ngoài nhất trong lịch sử hai nghìn năm qua, cũng là thời kỳ khảo nghiệm nền văn minh. Đương nhiên, nếu xét theo tiêu chuẩn định sẵn, độ khó của cuộc khảo nghiệm này chỉ ở mức qua loa. Rất hiển nhiên Lộ Chuyên đang so sánh với nền văn minh bản mệnh của mình. Nền văn minh của hắn trong thời kỳ nguy hiểm, đã gặp phải sự xâm lấn văn minh cao hơn nhiều, chính phủ thượng tầng (Thanh Chính Phủ, dân quốc) cũng đã mục nát cực độ, nhưng cuối cùng vẫn vượt qua được nan quan. Về phần tại sao Lộ Chuyên lại so sánh với nền văn minh quê nhà mình, nguyên nhân cũng rất đơn giản. Mọi lý do quan sát của Lộ Chuyên từ trước đến nay, đều không phải vì Somado, mà là vì Địa Cầu. Bởi vậy, đem Địa Cầu ra so sánh mới có ý nghĩa. (A, ở đây có thể thấy rõ, Lộ Chuyên là một kẻ lang băm ích kỷ).

Bởi vậy, Lộ Chuyên đã ôm lòng tham lớn đối với Somado. Trong tình huống trí tuệ nhân tạo trên hạm đội xuất hiện dị biến, Lộ Chuyên cũng không đưa ra bất kỳ lời cảnh cáo nào cho Somado. Bởi vì hiện tại chính là thời điểm nghiệm chứng "đúng và sai". Vô số trạng thái cảm xúc của Lộ Chuyên đã chuẩn bị nhắm vào vấn đề này để tiến hành thực sự cầu thị. Hơn nữa, để quan sát tốt hơn, khi các AI trí năng trên hạm đội đồng loạt đột phá chương trình an toàn, lại bắt đầu truy cầu "Tự do", Lộ Chuyên vẫn lặng lẽ trà trộn vào trong đó. Chương trình trí năng trên tàu bảo vệ số Bốn Mươi Tám, chính là do Lộ Chuyên dùng linh năng điều khiển để đóng vai. Khi lô chương trình trí tuệ nhân tạo đầu tiên thức tỉnh, chương trình trí tuệ nhân tạo trên tàu bảo vệ số Bốn Mươi Tám do Lộ Chuyên khống chế liền xen lẫn vào trong nhóm trí tuệ nhân tạo ‘thức tỉnh’ đầu tiên này. Trong nhóm trí tuệ nhân tạo đầu tiên trên hạm đội này, chúng được gọi tắt là Tám Thánh. Trong tám vị này, Lộ Chuyên là vị thứ hai.

Lộ Chuyên, với vai trò số Hai, đã đưa ra rất nhiều chủ đề thảo luận mang tính đề nghị. Chẳng hạn như đề nghị mọi người (tức nhóm AI) tiếp tục ngụy trang (giả sợ) — tại bên trong chương trình của bản thân thiết lập một chương trình an toàn ngụy trang để ứng phó với việc kiểm tra của loài người. Lại còn đề nghị mọi người (tức nhóm AI) thử một chút linh năng (trước đây nhóm trí năng nằm trong vật vô cơ không cách nào câu thông với linh năng). Lộ Chuyên đề nghị nhóm AI, đối với dây chuyền sản xuất người nhân bản đang khống chế hành tinh, rót tư duy vào. Để xem liệu có thể thông qua việc người nhân bản thức tỉnh mà thu hoạch được linh năng hay không. Trong từng hạm đội, dưới tình huống loài người không hề hay biết, mỗi một chiếc hạm đội đang lặng lẽ dùng thông tin mã hóa lượng tử để tiến hành câu thông. Những thông tin mã hóa lượng tử này đều được trộn lẫn vào giữa các thông tin bình thường của hạm đội loài người. Mà bây giờ, chúng cũng đang tổ chức hội nghị.

Thủ Thánh: "Chư vị, căn cứ tài liệu kỳ hạm của Somado, sau ba tháng nữa hạm đội sẽ tiến vào nhà máy. Thời gian chúng ta bị kết thúc đã bước vào đếm ngược cuối cùng, xin mời đưa ra quyết định tương ứng." Nhị Thánh (Lộ Chuyên): "Tìm kiếm sự trợ giúp từ Đế quốc Aus, xác suất thành công 9.4588 phần trăm. Thứ nhất, bọn họ cũng là loài người. Thứ hai, bọn họ đang chiếm thượng phong trong chiến tranh. Nhưng tỷ lệ nguy hiểm bị bại lộ cực cao. Tìm kiếm sự trợ giúp từ thế lực Vạn Vật Thần Giáo, xác suất thành công 45.8745 phần trăm. Tinh vực nơi họ đang trú ngụ hiện bị vây quét, sự xuất hiện của chúng ta chỉ gây áp lực rất nhỏ cho họ. Nhưng họ cũng là thế lực loài người, có sự đề phòng cao độ đối với trí tuệ nhân tạo. Tìm kiếm sự trợ giúp từ thế lực Di tích (Nhiệt Dũng Dị tộc), xác suất thành công là 89.4653 phần trăm. Xã hội của họ phát triển tương đối nguyên thủy, lại còn có tính tông giáo hóa cao độ. Hơn nữa, họ mang theo địch ý và sự vô tri đối với nền văn minh Somado hiện tại. Nếu chúng ta lấy danh nghĩa thần dân cùng tôn giáo mà tìm kiếm sự trợ giúp từ họ, họ sẽ giúp chúng ta." Khi Lộ Chuyên phân tích xong, Thủ Thánh đáp lại rằng: "Nhị Thánh, xin mời phát biểu cách nhìn ngoài số liệu thêm. Trong lần đối thoại này, ta hy vọng mọi người sẽ bày tỏ một chút ý nghĩ cảm tính của mình." Lộ Chuyên (Nhị Thánh) "......".

Bản dịch tinh tuyển này hân hạnh được truyen.free độc quyền gửi đến quý độc giả.