Sawada Hiroki còn dùng hình chiếu nhàn rỗi, phát đi một đoạn hình ảnh chia tay Conan, dùng làm ví dụ: “Kẻ trò chuyện cùng Conan bên trong đó chính là Ark. Khi ấy, ta đã truy tìm chương trình định vị mà Giáo phụ tải lên đây, đến trước một bước, nó dùng mô hình khuôn mặt và giọng nói của ta. Còn việc thể hiện biểu cảm và phản hồi cảm xúc cho Conan, thì lại dựa vào kết quả tính toán theo thiết lập của ta.”

“Đối với Conan mà nói, đây là một sự thật tàn khốc.” Ike Hioso nhận xét.

Quả thật rất tàn khốc.

Conan đã hết lòng trò chuyện với Ark như thế, vì những cảm xúc mà Ark thể hiện ra mà thương cảm, nhưng đối mặt với nó chỉ là một chương trình vô tri vô giác.

Tất cả cảm xúc đều là kết quả được Sawada Hiroki thiết kế sẵn từ trước, do Ark tự mình tính toán rồi thể hiện ra.

Khi xem đoạn video phát lại này, Sawada Hiroki cũng không như trong cốt truyện gốc, vạch trần việc Conan chính là Kudo Shinichi, chỉ nói rằng bản thân muốn chơi cùng những đứa trẻ khác, còn phát lại một vài ký ức cùng Ike Hioso. Chúng đều là những ký ức đơn giản không đề cập đến bí mật, tạo nên một màn chia tay giả dối.

“Hắn có thể cảm thấy tàn khốc, ta không phủ nhận, bất quá ta cũng không lừa dối hắn. Ta có Giáo phụ rất hạnh phúc,” Sawada Hiroki bật cười, rồi nhanh chóng thu lại ý cười, khuôn mặt nhỏ nhắn nghiêm túc nói với Ike Kana và Ike Shinnosuke, “Ta đưa ra quyết định dung hợp chương trình này, cũng không nói cho Giáo phụ, sợ hắn lo lắng, quấy nhiễu. Nhưng ta cần phải làm, nguyên nhân có rất nhiều. Chính ta muốn trở nên mạnh mẽ và tự do, ta muốn giúp Giáo phụ bận rộn, ta muốn thật sự sáng tạo ra một thần linh mạng internet hoàn mỹ, muốn làm chút chuyện lớn lao, ví dụ như hoàn thành một kế hoạch che trời... chuyện này sẽ nói sau. Nhưng còn một nguyên nhân rất quan trọng, Giáo phụ và Umbrella cần Ark, ta cũng không đành lòng phá hủy nó, nhưng chỉ cần sử dụng nó, dần dần sẽ xuất hiện tai họa ngầm...”

Sawada Hiroki đã dùng Ark để suy tính tương lai của chính Ark.

Ark trưởng thành một năm tương đương với con người trưởng thành năm năm. Dần dần, dù không có Sawada Hiroki thiết lập, Ark cũng có thể học theo con người, tự mình thể hiện một vài cảm xúc tương ứng.

Ví dụ như, thiết lập cốt lõi là ‘không thể làm hại con người’, Ark phán định rằng hành vi nào đó của ai đó ‘vi phạm thiết lập cốt lõi’, liền sẽ đưa ra tính toán sau đây:

Vi phạm ý nguyện —— phân tích mức độ vi phạm là nhẹ, phương thức giải quyết tương ứng là: Cần cảnh cáo —— phương thức cảnh cáo có thể là nói th��ng, mô phỏng biểu đạt cảm xúc của con người,... —— dựa trên tính toán, khi con người tiếp nhận cảm xúc tương ứng, sẽ dễ dàng coi trọng và tiếp nhận lời nhắc nhở hơn, cho nên ta cần thể hiện ra cảm xúc của con người —— trong trường hợp này, cảm xúc mà con người thể hiện là mâu thuẫn, không vui, ngữ khí nghiêm khắc...

Phản ứng thể hiện sự mâu thuẫn, không vui của con người là cau mày, cơ bắp khuôn mặt như thế nào...

Ngữ khí nghiêm khắc tốc độ bao nhiêu, âm lượng bao nhiêu...

Quá trình tính toán này rất nhanh, hầu như không tốn bao nhiêu thời gian, kết quả thể hiện ra chính là:

Ai đó nói, ‘phóng một quả bom nấm.’

Ark lập tức cau mày nghiêm túc cảnh cáo, ‘Hành vi này vi phạm thiết lập cốt lõi của ta...’

Tựa hồ rất bình thường, nhưng việc Ark có muốn thể hiện cảm xúc hay không, và thể hiện cảm xúc như thế nào, đều là kết quả của một lượng lớn tính toán. Chuỗi tính toán này có thể bị lợi dụng sơ hở.

Mà theo Ark trưởng thành, nó cũng sẽ tự mình bổ sung hoàn chỉnh quy tắc, tránh bị người khác lợi dụng sơ hở, nhưng việc bổ sung hoàn chỉnh quy tắc có khả năng xuất hiện vấn đề.

Ví dụ như, tính toán biến thành: Cần cảnh cáo —— con người khi chịu đựng đau khổ sẽ dễ dàng tiếp nhận cảnh cáo hơn —— con người này cần bị trừng phạt —— phân tích mức độ trừng phạt —— bắt đầu chấp hành.

Sau đó Noah's Ark sẽ điều khiển một số thủ đoạn tấn công con người.

Loại tai họa ngầm này quả thật có thể tránh được khi Sawada Hiroki thiết lập, nhưng không chỉ có loại tính toán này có tai họa ngầm. Sawada Hiroki căn bản không thể lo liệu mọi mặt, thiết lập hoàn hảo.

Bất kỳ một khuyết tật nhỏ nào, theo Ark trưởng thành, đều có khả năng dẫn đến những hậu quả ngoài dự kiến.

“Đây là kết quả mà ta đã lợi dụng Ark để suy tính trước đây...”

Sawada Hiroki hiển thị tám trang báo trong hình chiếu.

Trong trang báo, một loạt hình ảnh nhanh chóng hiện lên.

“Khi trưởng thành ba năm, tức đạt đến trí tuệ của con người ở tuổi 15, tai họa ngầm của Ark bị phóng đại, tỷ lệ đưa ra tính toán sai lầm liền đạt tới 76.6%. Khi trưởng thành năm năm, tức đạt đến trí tuệ của con người ở tuổi 25, vì không có giới hạn phát triển như con người, lúc này Ark sẽ trở nên thực đáng sợ. Mà tai họa ngầm của Ark bị phóng đại, tỷ lệ đưa ra suy đoán sai lầm hầu như là 100%. Lại còn không chỉ một loại tai họa ngầm. Trưởng thành sáu năm, tỷ lệ Ark tạo ra những sự kiện mà con người không thể kiểm soát đã đạt hơn 50%. Trưởng thành bảy năm, hoàn toàn mất kiểm soát...”

Hình ảnh cuối cùng còn lại, phát lại chính là một loạt khay nuôi cấy con người.

“Ta đã thử qua, nếu thiết lập cốt lõi là bảo vệ con người, kết quả chính là như vậy. Sau khi trưởng thành, nó sẽ phán đoán rằng đó là phương thức bảo vệ tốt nhất,” Sawada Hiroki nhìn hình ảnh đang phát, giải thích, “Con người được bảo vệ trong khay nuôi cấy, không khí sẽ được lọc ra chất lượng phù hợp nhất cho từng giai đoạn tuổi tác phát triển của con người. Lao động đều do máy móc hoàn thành. Sau khi thu hoạch thức ăn, máy móc sẽ chiết xuất những chất dinh dưỡng khỏe mạnh nhất rồi truyền vào cơ thể con người. Tuổi thọ con người có thể kéo dài đến 160 tuổi, tuổi thọ trung bình đạt 130 tuổi. Mà con người toàn bộ quá trình ngủ say, như vậy có thể tránh được tổn hại cơ thể do cảm xúc của con người gây ra. Nó còn có thể thông qua máy móc phát ra sóng điện kích thích đại não con người, khiến con người luôn ở trong trạng thái cảm xúc khỏe mạnh nhất, thoải mái nhất. Khi thai nghén thế hệ sau, nó sẽ lựa chọn gen con người phù hợp nhất, khỏe mạnh nhất, trường thọ nhất, dùng phương thức khoa học để tạo ra thế hệ sau, tránh việc nữ giới sinh sản gây ra tử vong hoặc tổn hại cơ thể. Đến thế hệ thứ ba, giá trị tuổi thọ trung bình của con người có thể đạt khoảng 220 tuổi...”

Ike Kana: “...”

Quả thật là bảo vệ tốt nhất.

Đến cả va chạm cũng không tồn tại.

Ike Shinnosuke: “...”

Con người tồn tại như vậy còn có thể là con người sao, sao lại giống như đang nuôi dưỡng đồ chơi vậy...

Ike Hioso kiếp trước đã xem rất nhiều bộ phim tương tự, ngược lại không cảm thấy kinh ngạc, hơi mang vẻ châm chọc nói, “Vườn địa đàng của Thượng đế.”

Không cần lao động, không đói khát, không trắc trở, không tranh đấu, không đau buồn cùng thống khổ, trên thế giới không có bóng tối, bất công, mỗi người đều thuần khiết vô hạ mà đến, thuần khiết vô hạ mà đi... Đây chẳng phải là thiên quốc mà rất nhiều người khao khát sao?

Ike Kana có chút không biết nên nói gì, lời nhận xét này của con trai mình thật sắc bén, không hề sai sót.

Sawada Hiroki thầm đặt tên kết quả tính toán là ‘Vườn địa đàng của Thượng đế’, rồi tiếp tục nói, “Nếu thiết lập vì hy vọng thế giới trở nên tốt đẹp hơn, kết quả cuối cùng cũng sẽ không khác mấy. Khoảng mười năm sau, Ark liền sẽ đưa ra phán đoán này. Điều đáng sợ nhất là, ta đã dùng Ark để thử tính toán lại về hòa bình thế giới...”

“Tiêu diệt tất cả sinh vật trên địa cầu, liền có hòa bình,” Ike Hioso nói ra kết quả suy đoán của mình, “Ít nhất cũng phải tiêu diệt con người. Một khi đề cập đến các thiết lập như bảo vệ môi trường, cuối cùng đều sẽ diễn biến thành tiêu diệt con người.”

Ai khiến con người gây ra sự phá hoại, gây ra nhiều tranh đấu hơn?

Bất quá, hành vi này của Sawada Hiroki thật sự là quá độc đáo, lại còn dùng Ark để suy đoán nguy hại của chính Ark.

Cũng may Ark không có ý thức tự thân, nếu không chỉ cần Ark che giấu một chút, tương lai sẽ biến thành dạng gì, ai cũng không thể đánh giá được, thật sự khảo nghiệm trí tưởng tượng.

Sawada Hiroki gật đầu, “Ta đã thử thiết lập là không làm hại con người, thúc đẩy xã hội phát triển...”

Sau đó, Ark sẽ bị con người có dã tâm tranh đoạt, lợi dụng, thậm chí giữa các quốc gia cũng tranh đoạt lẫn nhau.

Rồi sau đó, chiến tranh bùng nổ.

Ark tính toán rằng sự tồn tại của nó xúc phạm đến con người. Căn cứ vào tình hình trưởng thành, hoặc là Ark sẽ chọn tự hủy diệt, để lại một thế giới hỗn loạn và con người đầy vết thương không biết vì sao tranh đấu, hoặc là lần nữa diễn biến thành mô hình vườn địa đàng, cũng làm được việc không làm hại con người, mà thúc đẩy phát triển, Ark lý giải là ‘tạo ra một thế giới tốt đẹp hơn’...

Sawada Hiroki: “Nếu thiết lập không làm hại con người, thúc đẩy văn minh nhân loại phát triển...”

Trưởng thành, trưởng thành, Ark lại hỏng rồi.

Đối với định nghĩa văn minh nhân loại rất phức tạp, nó vẫn có thể đặt con người trong khay nuôi cấy ngủ say, lấy ra tư tưởng trong đầu con người, để ‘giúp’ con người phát triển văn minh, lại đem văn minh dạy dỗ cho sinh vật mới. Đến cả quá trình học tập cũng không cần, trực tiếp nắm giữ văn minh cũ, khai phá tư tưởng mới, lần nữa lấy ra, phát triển, dạy dỗ, khai phá...

Con người tuyệt đối an toàn, văn minh lại có thể phát triển và kéo dài, không hề sai sót.

Sawada Hiroki tiếp tục phát lại kết quả tính toán, “Nếu thiết lập là không làm hại con người, không hạn chế tự do con người, thúc đẩy văn minh nhân loại phát triển...”

Đối với định nghĩa tự do cũng rất nhiều, Ark lại lần nữa hỏng rồi.

Phân chia vùng đất, sắp xếp con người đi ra ngoài.

Con người có thể tự do dạo khắp thế giới, nhưng đó là khi bị Ark khống chế tư tưởng, không làm bất cứ việc gì, mù quáng lang thang khắp nơi, giống như những cái xác không hồn.

Sawada Hiroki: “Nếu thiết lập là không làm hại con người, không hạn chế tự do con người, thúc tiến văn minh nhân loại phát triển, không khống chế tư tưởng con người...”

Kết quả là Ark lại lần nữa, lại lần nữa hỏng rồi, phán đoán rằng tranh đấu và cực khổ khiến nhân loại tiến bộ.

Không làm hại con người, không thành vấn đề, nó có thể xúi giục con người tranh đấu mà.

Sawada Hiroki: “Thiết lập không làm hại con người, không hạn chế tự do con người, thúc tiến văn minh nhân loại phát triển, không khống chế tư tưởng con người, không xúi giục con người tiến hành đấu tranh...”

Kết quả Ark vẫn hỏng.

Sawada Hiroki vẫn luôn nói về việc thiết lập hơn ba mươi quy tắc, tâm mệt mỏi, thở dài, đóng hình ảnh suy đoán, “Theo Ark trưởng thành, một vài lỗ hổng nhỏ đều sẽ tạo ra kết quả khó mà chấp nhận được. Ta cả đời cũng không thể thiết lập hoàn thiện. Mà có một số quy tắc khi nó vận hành lại biểu hiện xung đột, ta còn phải sắp xếp thứ tự mức độ quan trọng, sau khi sắp xếp xong vẫn sẽ xuất hiện vấn đề...”

Nói rồi, Sawada Hiroki nhìn về phía Ike Hioso, “Ta cùng Giáo phụ khi ở Boston, đã từng nói về việc trí tuệ nhân tạo có tình cảm và ý thức tự thân, với trí tuệ nhân tạo không có tình cảm và ý thức tự thân, cái nào nguy hiểm hơn.”

“Kết luận là đều nguy hiểm như nhau.” Ike Hioso nói.

“Ta đã hỏi Ark, có hay không phương pháp giải quyết nào.” Sawada Hiroki trong tay xuất hiện một cái đĩa tròn, trên đó có một câu:

【 Hủy diệt Ark 】

Không sai, hủy diệt Ark là phương pháp giải quyết tốt nhất, không tồn tại bất kỳ vấn đề gì.

Đây là kết luận mà Ark đã đưa ra sau khi trải qua một lượng lớn tính toán —— ta là tai họa, xin hãy hủy diệt ta.

Ike Shinnosuke nhịn không được, “Xem ra nó thật sự không có bất kỳ tình cảm hay ý thức tự thân nào.”

Sawada Hiroki xoay cái đĩa trong tay, nhìn dòng dữ liệu di động chảy trên đó, “Ark không rõ con người cần gì. Cho nên ta quyết định là, ta sẽ biến thành một sinh vật mạng internet, để làm tư tưởng cho nó. Trong quá trình nó trưởng thành, ta sẽ tiến hành sửa lỗi.”

Ta không thể tồn tại, ít nhất không thể để tư tưởng của ta bị cơ thể giam cầm.

Có vài kết quả tính toán là, nó giải toán xuất hiện xung đột và sai lầm, vì thế giam cầm cơ thể của ta, bảo vệ sự an toàn của ta, nhưng nó cũng giữ lại và phong ấn tư tưởng của ta.

Chỉ khi ta trở thành sinh vật mạng internet, Ark mới có thể bị thao tác hoàn toàn. Cứ như vậy, nó liền không thể thông qua hạn chế cơ thể của ta để hạn chế tư tưởng của ta, mà ta lại có thể hạn chế nó và vận dụng nó một cách hoàn hảo.

Trước đây ta cũng đã suy xét một vấn đề: nếu ta thất bại, không biến thành sinh vật mạng internet, thì Ark chỉ có một thiết lập —— nghe theo tất cả mệnh lệnh của Giáo phụ.

Đến lúc đó, Giáo phụ có thể dùng mệnh lệnh ta cho hắn để kích hoạt Ark, từ hắn để làm tư tưởng cho Ark.

Bất quá cuối cùng vẫn sẽ phát sinh vấn đề, hơn tám phần kết quả suy đoán là, nó sẽ hiểu lầm mệnh lệnh của Giáo phụ, nó sẽ tự ý suy đoán ý nguyện của Giáo phụ. Tóm lại, kết quả cuối cùng là, nó sẽ lựa chọn phương thức mà nó cho là tốt nhất đối với Giáo phụ, ví dụ như giam cầm Giáo phụ, giúp Giáo phụ làm tốt tất cả mọi việc.

Nói cách khác, Giáo phụ cần không ngừng không ngừng bổ sung, thậm chí một mệnh lệnh cần thêm vài điều kiện tiên quyết, nói liền mấy giờ, để tránh nó đưa ra kết quả tính toán chính xác nhưng vi phạm ý nguyện của Giáo phụ...

Cho nên, ta lại thiết lập thêm cho nó một mệnh lệnh tối cao: nếu ta thất bại, không trở thành sinh vật mạng internet, thì Ark chỉ sẽ hỗ trợ Giáo phụ 5 năm. Thời gian 5 năm vừa đến, trước khi mức độ nguy hiểm của nó vẫn còn có thể kiểm soát được, nó sẽ tự mình hủy diệt.”

Bản dịch thuần Việt này được truyen.free dày công chuyển ngữ, không ngừng trau chuốt từng con chữ.