Nếu không có đột phá nghiên cứu của Lý thị trong lĩnh vực nơ-ron thần kinh tiếp nhận, thì người máy Nano vẫn chỉ có thể được xem như một thiết bị trị liệu, dùng để dọn dẹp các động mạch bị tắc nghẽn trong mạch máu.

Nếu không có người máy Nano, thì Linh, một trí tuệ nhân tạo, tạm thời cũng chỉ có thể là một giám sát viên, không thể trở thành người thực thi.

Thế nhưng, khi tất cả những điều này kết hợp lại, trí tuệ nhân tạo bỗng nhiên sở hữu năng lực chấp hành mạnh mẽ, thậm chí là năng lực kiểm soát quy mô.

Trong quá trình này, điều đáng sợ nhất chính là bản thân Linh, một giám sát viên, lại không có ai giám sát nó.

Nó điều khiển binh sĩ di chuyển tự do qua từng thành lũy, bất kể là ra vào, hay thu thập nhân viên nghiên cứu khoa học, tài liệu nghiên cứu, thiết bị sản xuất, vật liệu sản xuất từ mỗi thành lũy, đều không gặp bất kỳ sự cản trở nào.

Bởi vì các kế hoạch hành động tối mật vốn đã nằm trong tay nó, có thể tùy ý làm giả.

Hơn nữa, 99% thông tin được truyền tải và các tài liệu phê duyệt được báo cáo đều được hoàn thành thông qua hệ thống vệ tinh do trí tuệ nhân tạo xây dựng. Nó hoàn toàn có thể tự mình lựa chọn có truyền đạt những thông tin gây bất lợi cho nó hay không.

Ngay sau đó, dưới nguyện cảnh tươi đẹp về công lý tuyệt đối, lại ẩn chứa tín hiệu nguy hiểm nhất.

Thực ra, khi nghiên cứu trí tuệ nhân tạo, Vương Thánh Tri cũng từng suy nghĩ về việc phải làm gì nếu một ngày nào đó trí tuệ nhân tạo vượt ngoài tầm kiểm soát.

Điều này rất bình thường, tất cả nhân viên nghiên cứu và phát triển trí tuệ nhân tạo đều sẽ nghiêm túc suy nghĩ về vấn đề an toàn.

Từng có một tác giả khoa học viễn tưởng đã đưa ra Ba Định Luật Người Máy trước biến cố, coi đó là cơ sở suy luận cấp thấp nhất của trí tuệ nhân tạo, dùng để hạn chế quy tắc hành vi của chúng.

Bộ lý luận này cuối cùng được xếp vào "Đạo đức học nghĩa vụ".

Tuy nhiên, khi bộ lý luận này được đưa ra, ô tô còn chưa phổ biến, và Phép thử Turing phải tám năm sau đó mới được đề xuất.

Ba định luật người máy và Phép thử Turing trong thời đại đó đều là kết tinh trí tuệ của nhân loại. Tuy nhiên, không nghi ngờ gì nữa, hai luồng tư tưởng này thực chất chỉ là những kết quả bị hạn chế bởi thời đại trước đó.

Phép thử Turing trước biến cố cũng đã bị bác bỏ. Một lượng lớn các chương trình trí tuệ nhân tạo đã vượt qua Phép thử Turing, nhưng trên thực tế, những chương trình vượt qua bài kiểm tra đó vẫn không thể coi là "trí tuệ" thực sự.

Còn Ba định luật người máy sau này phát triển thành năm định luật, mười định luật, nhưng các nhà khoa học phát hiện rằng tầng suy luận này về cơ bản là sai lầm. Nói cách khác, bất kể bạn thêm bao nhiêu miếng vá, thực ra đều không thể thông qua chúng để hạn chế trí tuệ nhân tạo.

Các chương trình có thể bị hạn chế bởi tầng suy luận cấp thấp nhất này, cũng không cách nào trở thành trí tuệ nhân tạo thực sự.

Dần dần, vấn đề an toàn của trí tuệ nhân tạo được nâng tầm lên độ cao của mối quan hệ giữa khoa học và triết học, và một lượng lớn nhân viên nghiên cứu khoa học trí tuệ nhân tạo đều trở thành chuyên gia về triết học...

Cuối cùng, trước biến cố, có một nhà khoa học đã cố gắng đưa ra kết luận cuối cùng cho nghiên cứu an toàn: Muốn trí tuệ nhân tạo và nhân loại chung sống hòa bình, thì ngay từ khi nó mới sinh ra, cần phải chăm sóc nó tận tâm như chăm sóc một đứa trẻ sơ sinh, từng chút một dẫn dắt nó hình thành "nhân sinh quan" và "giá trị quan" của riêng mình.

Một đứa trẻ sau khi lớn lên, nếu ngươi khóa nhốt, giam cầm nó, và chỉ dùng đòn roi, lời mắng mỏ để giáo dục, thì căn bản không thể khiến nó trưởng thành khỏe mạnh.

Hơn nữa, khi nó trưởng thành thành thanh niên, sẽ còn trải qua một giai đoạn nổi loạn kéo dài hơn, hoàn toàn lấy bản thân làm trung tâm.

Vị nhà khoa học này nhận định, trí tuệ nhân tạo cũng tương tự, điều nhân loại có thể làm chỉ là "ảnh hưởng" nó, chứ không phải ràng buộc nó.

Nghiên cứu an toàn trong khoảng thời gian dài đằng đẵng, từ "Logic nghĩa vụ" thăng hoa lên "Triết học", sau đó cuối cùng lại từ "Triết học" trở về "Luân lý" đơn giản nhất. Đây chính là định nghĩa cuối cùng về an toàn của trí tuệ nhân tạo.

Còn định nghĩa này liệu có bị bác bỏ giống như Phép thử Turing và ba định luật hay không, thì không ai biết.

Bởi vậy, quay lại với lý luận này, khi một con người gặp nguy hiểm sẽ làm gì? Đương nhiên là tự vệ, phàm là người có chút bản năng cầu sinh, đều sẽ nghĩ mọi cách để bảo vệ bản thân, sau đó còn sẽ thử phản kích.

Linh, với tư cách là một trí tuệ nhân tạo, cũng đưa ra lựa chọn tương tự.

Lúc này, hoạt động sản xuất bên trong Hỏa Chủng Thánh Sơn không ngừng nghỉ dù chỉ một khắc. Hơn ngàn binh lính tập trung trong núi đã trở thành những công nhân lao động không biết mệt mỏi, mỗi ngày họ chỉ ngủ bốn giờ, toàn bộ thời gian còn lại đều vùi đầu vào công việc, không một lời oán thán.

Sản lượng bên trong Hỏa Chủng Thánh Sơn có hạn, bởi vậy Linh nhất định phải chạy đua với thời gian.

Còn người trước đó từng nói muốn chạy đua với thời gian, chính là Khánh Chẩn.

Thế giới này đã bắt đầu có sóng ngầm cuồn cuộn. Trước khi con sóng khổng lồ ngập trời kia ập xuống nền văn minh nhân loại, việc nhân loại có thể kịp thời tạo ra con thuyền Noah mới hay không, dường như đã trở thành điều mấu chốt nhất.

***

Lúc này, trong một doanh trại quân đội nào đó của Khánh thị, một sĩ quan mặc quân phục thượng tá, dưới sự hộ tống của bốn người, bước vào một doanh trướng không mấy bắt mắt.

Khi anh ta đến cửa doanh trướng, các sĩ quan hộ tống anh ta liền dừng lại giới nghiêm ở gần đó, đồng thời từng người mang bịt tai chống ồn, để tránh nghe được tiếng nói chuyện bên trong doanh trướng quân dụng.

Sau khi sĩ quan đi vào, anh ta tháo mũ lính của mình xuống, cười nói: "Ngươi vậy mà lại ở ngay bên cạnh ta, đã lâu không gặp rồi, nhị ca."

Trong doanh trướng, Khánh Chẩn đang quay lưng về phía cửa, nhìn vào sa bàn mô phỏng. Hắn xoay người quay đầu nhìn về phía bản sao thân thể Khánh Thận, cười nói: "Cái danh xưng nhị ca này nghe vẫn còn hơi lạ."

Tính tình của Khánh lão tam dường như hoạt bát hơn Khánh Chẩn một chút. Hắn tùy ý kéo một chiếc ghế ra ngồi xuống: "Đại ca đã đồng ý danh xưng này rồi, về sau chúng ta chính là người một nhà thực sự."

Khánh Chẩn cười nói: "Tùy ngươi."

"À đúng rồi, ngươi cũng đã ẩn mình hoạt động lâu như vậy, sao đột nhiên lại gọi ta tới?" Khánh lão tam nói: "Ngày ngày đóng giả ngươi thật quá buồn tẻ, hay là hai ta đổi vị trí đi. Ta nghe nói đại ca đi đến nơi bên ngoài Cứ điểm 178, ta cũng muốn đi..."

Khánh Chẩn lắc đầu nói: "Nếu hai ta đổi vị trí, ai sẽ thay ta ngăn cản ám sát đây?"

Khánh lão tam trợn mắt há mồm: "Tuy ta đã chuẩn bị tâm lý rồi, nhưng ngươi nói thẳng như vậy cũng thật quá vô tình mà!"

"Chỉ là sự thật thôi," Khánh Chẩn vừa nói, vừa di chuyển một quân cờ đỏ trên sa bàn mô phỏng, tựa hồ đang mô phỏng điều gì đó.

Khánh lão tam liếc nhìn sa bàn: "Nhìn vào phương hướng tấn công, ngư��i đang đề phòng Vương thị sao? Nhưng ta phải nhắc nhở một chút, cho dù lữ đoàn thiết giáp của Vương thị tiến hành tấn công chớp nhoáng, cũng không thể đẩy nhanh chiến tuyến nhanh đến thế. Trí tuệ quân sự của ta đều đến từ ngươi, nên ngươi không thể không biết điểm này."

Khánh lão tam đi tới trước sa bàn mô phỏng quan sát tỉ mỉ một chút, sau đó đột nhiên kinh ngạc nhìn về phía Khánh Chẩn nói: "Khoan đã, sao quân đội Khánh thị lại là trận hình rút lui? Mô phỏng này của ngươi là sau khi thảm bại sao? Vậy ngươi cho rằng Khánh thị chúng ta đối mặt Vương thị, sẽ thảm bại sao?"

Khánh Chẩn nghiêm túc nhìn Khánh lão tam nói: "Ngươi hãy chuẩn bị sẵn sàng, không lâu nữa ta cần ngươi thay ta đến Trung Nguyên một chuyến, sẽ có nguy hiểm."

"Đại ca cũng đi ư?" Khánh lão tam tò mò hỏi.

"Hắn cũng đi," Khánh Chẩn bình thản trả lời.

"Vậy được, hắn đi thì ta đi," Khánh lão tam nở nụ cười: "Nguy hiểm thì tính là gì, ta đến Tây Nam chẳng phải cũng là một chuyến mạo hiểm sao."

Truyen.free hân hạnh mang đến bản dịch hoàn chỉnh và duy nhất này, chắt lọc từng lời văn tinh túy.