10,854 lượt đọc

Asimov vô tình đi tiên phong trong kỹ thuật nhắc nhở hiện đại

từ tác giả Login Jones15m2023/05/14

dài quá đọc không nổi

Kỹ thuật nhanh chóng là một quá trình trong đó các lời nhắc đầu vào cho một mô hình ngôn ngữ lớn AI được chế tạo và tinh chỉnh để tạo ra đầu ra chính xác, phù hợp và hữu ích. Nó liên quan đến việc thiết kế có chủ ý và có hệ thống cũng như sàng lọc các lời nhắc và cấu trúc dữ liệu cơ bản để điều khiển các hệ thống AI nhằm đạt được các kết quả đầu ra cụ thể và mong muốn. Với sự xuất hiện của AI, đặc biệt là các mô hình xử lý ngôn ngữ tự nhiên, kỹ thuật nhanh chóng đã đạt được ý nghĩa.

featured image - Asimov vô tình đi tiên phong trong kỹ thuật nhắc nhở hiện đại

Isaac Asimov , một người có tầm nhìn xa trông rộng trong lĩnh vực khoa học viễn tưởng , đã vô tình đi tiên phong trong kỹ thuật hiện đại nhanh chóng thông qua khám phá kích thích tư duy về tương tác giữa người và rô-bốt trong Loạt phim đột phá về Người máy của mình.

Kỹ thuật Prompt - Bối cảnh và Lịch sử

Ngôn ngữ lập trình mới hot nhất là tiếng Anh - Andrej Karpathy (@karpathy)

Kỹ thuật nhanh chóng kết hợp các yếu tố logic, mã hóa, nghệ thuật và ngôn ngữ .

Điều khoản kỹ thuật nhanh chóng

Nhanh chóng rõ ràng : Lời nhắc phải rõ ràng và rõ ràng, không để AI hiểu sai.

Chính xác nhanh chóng : Được thiết kế để nhắm mục tiêu thông tin cụ thể hoặc đầu ra mong muốn từ AI.

Bối cảnh gợi ý : Đủ ngữ cảnh trong lời nhắc, chẳng hạn như thông tin cơ bản hoặc ví dụ, là điều cần thiết để hướng dẫn hệ thống AI hướng tới việc tạo ra đầu ra mong muốn.

Khả năng thích ứng nhanh chóng : mang lại kết quả mong đợi và chính xác trên các mô hình AI được đào tạo khác nhau.

Gợi ý theo chuỗi suy nghĩ : Lời nhắc bao gồm một chuỗi suy luận làm sáng tỏ quá trình lập luận cần thiết để giải quyết vấn đề.

Gợi ý từ Ít nhất đến Nhiều nhất : Chia vấn đề thành các vấn đề phụ rồi giải quyết từng vấn đề để dẫn dắt AI đi theo một hướng nhất định đến giải pháp cuối cùng.

Gợi ý vai trò : Bạn chuyên biệt ngữ cảnh của AI cho một vai trò chuyên biệt cụ thể sẽ giúp dẫn đến kết quả chính xác hơn.

Nhắc nhở một, không hoặc ít : Cung cấp không, một hoặc một vài ví dụ về câu hỏi/câu trả lời để giúp thiết lập bối cảnh cho AI và hạn chế nó đi theo một lộ trình cụ thể và nhận được kết quả chính xác hơn.

Dòng Robot của Asimov

Vũ trụ Người máy của Asimov là một thế giới rộng lớn và phức tạp trải dài qua vô số tiểu thuyết, truyện ngắn và các bộ truyện liên kết với nhau. Lấy bối cảnh trong một tương lai nơi con người đã xâm chiếm các hành tinh khác nhau trong thiên hà, vũ trụ này được đặc trưng bởi sự phân chia rõ ràng giữa thế giới Trái đất và Spacer.

Trái đất , đông dân cư và hạn chế về công nghệ, là nơi sinh sống của con người sống trong những thành phố rộng lớn có mái vòm được gọi là hang động thép , nơi người máy thường sợ hãi và không tin tưởng.

Ngược lại, thế giới tàu vũ trụ là những xã hội có công nghệ tiên tiến với dân số thưa thớt, nơi con người và rô-bốt cùng tồn tại hài hòa và rô-bốt đã trở thành một phần thiết yếu của cuộc sống hàng ngày. Thế giới Spacer duy trì thái độ trịch thượng đối với Trái đất và cư dân của nó, coi họ là lạc hậu và thấp kém.

Ba Định luật về Người máy là một khái niệm trung tâm của vũ trụ Người máy, đóng vai trò là nguyên tắc hướng dẫn cho hành vi của người máy.

Những luật này, do Asimov nghĩ ra, như sau:

Rô-bốt không được làm hại con người hoặc do không hành động mà cho phép con người gây hại;
Người máy phải tuân theo mệnh lệnh do con người đưa ra, trừ trường hợp mệnh lệnh đó mâu thuẫn với Luật thứ nhất; Và
Người máy phải bảo vệ sự tồn tại của chính nó miễn là sự bảo vệ đó không mâu thuẫn với Luật thứ nhất hoặc Luật thứ hai.

Xuyên suốt các câu chuyện của Asimov, sự tương tác giữa con người và rô-bốt, cũng như ý nghĩa đạo đức và triết học của Ba Định luật, tạo thành xương sống của vũ trụ Rô-bốt, mang đến cho độc giả một khám phá độc đáo về những thách thức và hậu quả tiềm ẩn của một tương lai nơi loài người và những người tiên tiến. trí tuệ nhân tạo cùng tồn tại.

Asimov: Kỹ sư nhắc nhở vô thức

Sê-ri và truyện ngắn Người máy của Isaac Asimov, bắt đầu từ những năm 1950, nhấn mạnh tầm quan trọng của việc đưa ra các mệnh lệnh chính xác cho người máy, có thể được coi là tiền thân của kỹ thuật nhanh hiện đại. Các tác phẩm của Asimov đã thể hiện sự hiểu biết cố hữu về nhu cầu có các hướng dẫn được soạn thảo cẩn thận, đặc biệt là khi xử lý các hệ thống AI phức tạp có trong rô-bốt của ông hoạt động theo Ba Định luật về Rô-bốt.

Ví dụ về Kỹ thuật nhanh chóng từ Công trình của Asimov

Hình Ảnh Trong Gương (Truyện ngắn 1972)

Trong một chuyến du hành giữa các vì sao thông thường của một nhóm phi hành gia, một tội ác đã xảy ra trên con tàu vũ trụ. Hai bên là một nhà toán học trẻ và xuất sắc (Sabbat) và một nhà toán học lớn tuổi và đã thành danh (Humboldt), cả hai đều cáo buộc bên kia ăn cắp ý tưởng toán học mới tuyệt vời của bên kia. Các nhân chứng duy nhất là người hầu robot của mỗi nhà toán học. Thám tử người trái đất Elijah Baley được yêu cầu giúp điều tra và phá án càng sớm càng tốt trước khi nó bùng nổ thành một vụ bê bối lớn hơn nhiều, tuy nhiên tất cả những gì anh ta được phép làm là phỏng vấn các robot. Baley thấy rằng mỗi bên đang đưa ra hình ảnh phản chiếu về câu chuyện của bên kia, và anh ấy phải tìm ra bên nào đang nói dối.

Thám tử Baley thẩm vấn người máy nhà toán học trẻ tuổi (Sabbats) và hướng dẫn nó qua các bước hợp lý cho thấy rằng nhà toán học lớn tuổi sẽ bị tổn hại nhiều hơn thông qua lời khai của người máy và khiến người máy thay đổi lời khai của mình.

Đây là đoạn trích cuộc thẩm vấn giữa Thám tử Elijah Baley và người máy phục vụ R. Idda, những thay đổi nhỏ cho ngắn gọn:

Baley : Bạn là người máy cá nhân của Gennao Sabbat phải không?
Robot : Tôi là ngài.
Baley : Trong bao lâu?
Robot : Trong hai mươi hai năm, thưa ngài.
Baley : Và danh tiếng của chủ nhân của bạn có giá trị đối với bạn không?
Robot : Vâng, thưa ngài.
Baley : Bạn có coi việc bảo vệ danh tiếng đó là quan trọng không?
Robot : Vâng, thưa ngài.
Baley : Bảo vệ danh tiếng của anh ấy quan trọng như cuộc sống vật chất của anh ấy?
Robot : Không, thưa ngài.
Baley : Bảo vệ danh tiếng của mình quan trọng như danh tiếng của người khác?
Robot : Những trường hợp như vậy phải được quyết định dựa trên thành tích cá nhân của họ, thưa ngài. Không có cách nào để thiết lập một quy tắc chung.
Baley : Nếu bạn quyết định rằng danh tiếng của chủ nhân của bạn quan trọng hơn danh tiếng của người khác, chẳng hạn như của Alfred Barr Humboldt, bạn có nói dối để bảo vệ danh tiếng của chủ mình không?
Robot : Tôi sẽ, thưa ngài.
Baley : Bạn có nói dối trong lời khai liên quan đến chủ nhân của bạn trong cuộc tranh cãi của ông ấy với Tiến sĩ Humboldt không?
Robot : Không, thưa ngài.
Baley : Nhưng nếu bạn đang nói dối, bạn sẽ phủ nhận rằng bạn đang nói dối để bảo vệ lời nói dối đó, phải không?
Robot : Vâng, thưa ngài.
Baley : Vậy thì, hãy xem xét điều này. Thầy của bạn, Gennao Sabbat, là một thanh niên có tiếng tăm trong toán học, nhưng ông ấy là một thanh niên. Nếu trong cuộc tranh luận này với Tiến sĩ Humboldt, anh ta không chịu khuất phục trước sự cám dỗ và hành động phi đạo đức, thì anh ta sẽ bị ảnh hưởng nhất định về danh tiếng, nhưng anh ta còn trẻ và sẽ có nhiều thời gian để hồi phục. Anh ta sẽ có nhiều chiến thắng trí tuệ phía trước và mọi người cuối cùng sẽ coi nỗ lực đạo văn này là sai lầm của một thanh niên nóng nảy, thiếu óc phán đoán. Nó sẽ là một cái gì đó sẽ được bù đắp trong tương lai. Mặt khác, nếu chính Tiến sĩ Humboldt không chịu khuất phục trước sự cám dỗ, thì vấn đề sẽ nghiêm trọng hơn nhiều. Ông là một ông già có những việc làm vĩ đại đã trải qua nhiều thế kỷ. Danh tiếng của anh ấy cho đến nay vẫn không có dấu vết. Tuy nhiên, tất cả những điều đó sẽ bị lãng quên dưới ánh sáng của tội ác này trong những năm cuối đời của anh ta, và anh ta sẽ không có cơ hội để bù đắp trong khoảng thời gian tương đối ngắn còn lại đối với anh ta. Sẽ còn rất ít điều mà anh ấy có thể hoàn thành. Trong trường hợp của Humboldt, sẽ có rất nhiều năm làm việc bị hủy hoại hơn so với trường hợp của chủ nhân của bạn và cơ hội giành lại vị trí của ông ấy sẽ ít hơn rất nhiều. Bạn thấy đấy, phải không, rằng Humboldt phải đối mặt với tình huống tồi tệ hơn và xứng đáng được cân nhắc nhiều hơn?
Robot : Bằng chứng của tôi là một lời nói dối. Đó là Tiến sĩ Humboldt
Baley : Bạn được hướng dẫn không được nói gì với bất kỳ ai về điều này cho đến khi được sự cho phép của thuyền trưởng con tàu

Khi Baley thẩm vấn R. Preston, người hầu người máy của nhà toán học lớn tuổi Humboldt, cuộc thẩm vấn diễn ra giống hệt nhau ngoại trừ phần cuối, diễn ra như sau:

Baley : Nhưng nếu bạn đang nói dối, bạn sẽ phủ nhận mình đang nói dối, để bảo vệ lời nói dối đó, phải không?
Robot : Vâng, thưa ngài.
Baley : Vậy thì, hãy xem xét điều này. Thầy của bạn, Alfred Barr Humboldt, là một ông già có tiếng tăm trong toán học, nhưng ông ấy là một ông già. Nếu trong cuộc tranh cãi này với Tiến sĩ Sabbat, ông không khuất phục được cám dỗ và hành động phi đạo đức, thì ông sẽ phải chịu một sự lu mờ nhất định về danh tiếng, nhưng tuổi tác vĩ đại và những thành tựu hàng thế kỷ của ông sẽ chống lại điều đó và sẽ giành chiến thắng. Đàn ông sẽ coi nỗ lực đạo văn này là sai lầm của một ông già có lẽ ốm yếu, không còn chắc chắn trong phán đoán. Mặt khác, nếu chính Tiến sĩ Sabbat đã không chịu khuất phục trước sự cám dỗ, thì vấn đề sẽ nghiêm trọng hơn nhiều. Anh ấy là một chàng trai trẻ, với danh tiếng kém an toàn hơn nhiều. Thông thường, anh ta sẽ có hàng thế kỷ phía trước để tích lũy kiến thức và đạt được những điều vĩ đại. Điều này sẽ đóng lại với anh ấy, bây giờ, bị che khuất bởi một sai lầm thời trẻ của anh ấy. Anh ta có một tương lai dài hơn nhiều để mất hơn chủ nhân của bạn. Bạn thấy đấy, phải không, rằng ngày Sabbat phải đối mặt với tình huống tồi tệ hơn và xứng đáng được cân nhắc nhiều hơn?
Robot : Bằng chứng của tôi là như tôi-
Baley : Hãy tiếp tục, R. Preston.
Daneel : Bạn Elijah, tôi sợ rằng R. Preston đang bị đình trệ [đã bị rơi]. Anh ấy đã hết nhiệm vụ.

Trong truyện ngắn, Thám tử Baley sử dụng sự khác biệt này trong phản ứng của người máy để gài bẫy và lừa tên trộm thực sự thú tội.

Ở đây, chúng ta có thể thấy Asimov sử dụng lời nhắc ít nhất được triển khai bởi Baley trong khi thẩm vấn các rô-bốt. Đối với cả hai người máy, anh ấy muốn tìm hiểu xem có bất kỳ sự bất đối xứng nào trong trải nghiệm của chúng không (tức là con nào đang nói dối) và cách tiếp cận của anh ấy là dẫn dắt họ đi theo con đường suy luận, nơi cuối cùng anh ấy đặt ra một câu hỏi đạo đức phức tạp.

Cuối cùng, trong câu chuyện, Baley sử dụng sự kết hợp giữa sự bất đối xứng này của các phản ứng của robot và trực giác của anh ấy về bản chất con người để giải quyết vụ án, nhưng thật thú vị khi thấy Asimov dự đoán các sắc thái cần thiết để tương tác với AI ở cấp độ con người và trên thực tế, anh ấy đã dựa trên cơ sở này loạt khoa học viễn tưởng làm việc trên thực tế đó.

Chạy trốn (1942)

Trongtruyện ngắn này , người máy đắt tiền bất thường Speedy được cử đi làm nhiệm vụ thu thập một nguyên tố trên một hành tinh nguy hiểm. Bởi vì chiếc Speedy này đắt tiền, anh ta được lập trình để tuân theo luật thứ 3 (Robot phải bảo vệ sự tồn tại của chính nó miễn là sự bảo vệ đó không mâu thuẫn với Luật thứ nhất hoặc thứ hai) mạnh hơn bình thường.

Powell và Donovan, những nhân vật chính là con người, giao cho Speedy nhiệm vụ lấy selen từ một bể chứa selen. Con người cần thứ này để sạc lại các tế bào năng lượng đang cạn kiệt và bảo vệ bản thân khỏi cái nóng. Tuy nhiên, họ đã vô tình tạo ra xung đột giữa Định luật thứ hai và thứ ba của Người máy bằng cách đưa cho Speedy một mệnh lệnh thiếu chính xác, không nhấn mạnh tầm quan trọng của nhiệm vụ. Họ hướng dẫn Speedy, "Ra ngoài và lấy nó [selenium]." Do mối nguy hiểm do nhóm selen gây ra và xu hướng tuân theo Luật thứ 3 mạnh hơn bình thường của Speedy, Speedy thấy mình bị mắc kẹt trong một vòng lặp, không thể ưu tiên các mệnh lệnh của mình (Luật thứ hai) so với khả năng tự bảo quản của nó (Luật thứ ba).

Vấn đề cuối cùng đã được giải quyết bằng cách Powell tự đặt mình vào tình thế nguy hiểm, điều này viện dẫn Luật thứ nhất và buộc Speedy phải ưu tiên cứu anh ta. Powell và Donovan đưa cho Speedy một mệnh lệnh không chính xác ngay từ đầu:

Sau đó, anh ta nói, "Nghe này Mike, anh đã nói gì với Speedy khi cử anh ta đi tìm selen?"

Donovan sửng sốt. "Chết tiệt thật - tôi không biết. Tôi chỉ bảo anh ta lấy nó."

"Vâng, tôi biết, nhưng bằng cách nào? Cố gắng nhớ chính xác các từ."
"Tôi nói... uh... Tôi nói: 'Nhanh lên, chúng ta cần một ít selen. Bạn có thể lấy nó ở một nơi như thế này thế nọ. Hãy đi lấy nó' - chỉ vậy thôi. Bạn còn muốn tôi nói gì nữa không? "

Mấu chốt ở đây là mệnh lệnh do Donovan đưa ra mà tôi vừa bảo anh ấy nhận nó là không chính xác vì nó không chứa đựng sự khẩn cấp. Trong vũ trụ Asimovs Robots, âm thanh và cách gửi lệnh chỉ là các biến bổ sung của chính lời nhắc. Vì vậy, bởi vì giọng điệu không đặc biệt khẩn cấp đối với mệnh lệnh, nó đã dẫn đến xung đột giữa Tam Luật.

Bởi vì speedy bị mắc kẹt trong một vòng lặp và không thể chấp nhận một lời nhắc khác đã được lặp lại và định dạng lại với độ chính xác cao hơn, cách duy nhất để có được hành động chính xác là thay đổi các biến khác trong vũ trụ để lời nhắc không chính xác ban đầu dẫn đến đầu ra mong muốn . Cuối cùng, Powell đã giải quyết vấn đề bằng cách tự đặt mình vào tình thế nguy hiểm, buộc Speedy phải ưu tiên cứu anh ta (luật thứ nhất được ưu tiên) và đưa anh ta thoát khỏi bế tắc giữa các nhiệm vụ của luật thứ 2 và thứ 3.

Câu chuyện này cho thấy việc không sử dụng ngữ cảnh phù hợp trong lời nhắc (đặt hàng Speedy) đã dẫn đến kết quả không chính xác như thế nào. Bối cảnh thích hợp là đoạn trích này từ Runaround:

Thứ duy nhất có thể cứu họ là selen. Thứ duy nhất có thể lấy selen là Speedy. Nếu Soeedy không quay lại, không có Selenium. Không có selen, không có ngân hàng tế bào quang điện. Không có ngân hàng ảnh - tốt, chết bằng cách nướng chậm là một trong những cách khó chịu hơn để thực hiện.

Donovan vò mái tóc đỏ của mình một cách man rợ và tỏ ra cay đắng.

"Chúng ta sẽ trở thành trò cười của Hệ thống, Greg. Làm sao mọi thứ có thể trở nên sai lầm sớm như vậy? Đội ngũ tuyệt vời của Powell và Donovan được cử đến Mercury để báo cáo về khả năng mở lại Trạm khai thác Sunside bằng các kỹ thuật hiện đại và rô bốt và chúng tôi phá hỏng mọi thứ ngay trong ngày đầu tiên. Một công việc hoàn toàn bình thường nữa. Chúng tôi sẽ không bao giờ bỏ qua công việc đó."

"Có lẽ chúng ta sẽ không phải làm vậy," Powell lặng lẽ trả lời. "Nếu chúng ta không làm điều gì đó nhanh chóng, thì việc sống bất cứ điều gì - hoặc thậm chí chỉ là sống đơn giản - sẽ không còn nữa."

Lời nhắc cũng thiếu khả năng thích ứng , một lời nhắc tốt phải có khả năng mang lại kết quả chính xác trên các hệ thống AI khác nhau. Donovan nói rằng anh ấy đã nhanh chóng đưa ra một mệnh lệnh tiêu chuẩn (nhắc nhở) để lấy selen.

Donovan: "Tôi đã nói... uh... Tôi nói: 'Nhanh lên, chúng ta cần một ít selen. Bạn có thể lấy nó ở một nơi như vậy. Đi lấy nó - thế thôi. Bạn còn muốn tôi nói gì nữa không ?"

Powell: "Bạn đã không đặt bất kỳ khẩn cấp nào vào đơn đặt hàng, phải không?"

Donovan: "Để làm gì? Đó hoàn toàn là thói quen."

Giả định không chính xác ở đây là một mệnh lệnh/lời nhắc đơn giản để lấy selen, hoạt động tốt trên bất kỳ rô bốt/AI nào khác sẽ hoạt động tương tự trên Speedy, nhưng vì chúng tôi biết rằng 'bộ não định vị'/mạng lưới thần kinh của Speedy được huấn luyện khác (thứ 3 luật tự bảo toàn được củng cố) Speedy không phải là một AI tiêu chuẩn. Do đó, nên sử dụng lời nhắc/lệnh thích ứng hơn.

Các nguyên tắc về sự rõ ràng, bối cảnh và khả năng thích ứng của các lời nhắc được cung cấp cho AI để có được kết quả chính xác là một khái niệm cốt lõi với kỹ thuật nhanh chóng. Người ta thường hiểu rằng lời nhắc càng mô tả và chi tiết thì kết quả càng tốt. PromptingGuide.ai . Trong câu chuyện này (được viết lần đầu vào năm 1942), Asimov chỉ ra chi tiết việc không tuân theo các quy tắc này có thể dẫn đến kết quả không chính xác như thế nào.

Hang Thép (1954)

"Caves of Steel" được xuất bản lần đầu vào năm 1954 và là cuốn đầu tiên trong loạt tiểu thuyết lấy bối cảnh Vũ trụ Người máy và giới thiệu các nhân vật Thám tử Elijah Baley và Người máy Daneel Olivaw.

Câu chuyện lấy bối cảnh ở tương lai xa, cư dân Trái đất sống trong các thành phố lớn có mái vòm và họ nuôi dưỡng lòng oán hận sâu sắc đối với Spacers, một nhóm người đã xâm chiếm các hành tinh khác và sử dụng công nghệ tiên tiến và người máy. Asimov sử dụng câu chuyện về cảnh sát bạn thân để khám phá các chủ đề về định kiến, trí tuệ nhân tạo, công nghệ và sự hợp tác. Mối quan hệ hợp tác giữa Baley và Daneel đóng vai trò là nền tảng cho Sê-ri Robot của Asimov, tiếp tục đào sâu vào mối quan hệ năng động giữa con người và robot/AI, cũng như những thách thức mà chúng phải đối mặt khi cùng tồn tại.

Có một cảnh ngắn nhưng rất thông minh trong các chương "Lời từ một chuyên gia / Chuyển sang máy móc" cho thấy rằng ngay cả vào năm 1954, Asimov đã dự đoán rằng cần phải đánh giá hiệu quả của AI và việc đánh giá có thể rất xâm lấn nhưng cũng sẽ có một phương pháp đánh giá dễ dàng hơn để nhanh chóng kiểm tra sức khỏe và độ chính xác của một mô hình.

Cảnh được đề cập liên quan đến một nhà chế tạo robot Trái đất (Tiến sĩ Gerrigel), người được Baley yêu cầu thực hiện đánh giá Robot Daneel Olivaw để xác minh rằng nó đã được cài đặt đúng luật thứ nhất (về cơ bản là một mô hình chính xác).

Khi được cung cấp các phòng thí nghiệm máy tính cho bất kỳ thiết bị nào mà anh ấy có thể cần, Tiến sĩ Gerrigel trả lời:

Tiến sĩ Gerrigel : Ông Baley thân mến, tôi sẽ không cần phòng thí nghiệm.
Bailey : Tại sao không?
Tiến sĩ Gerrigel : Không khó để kiểm tra Định luật thứ nhất. ... nó đủ đơn giản.
Baley : Bạn có thể giải thích những gì bạn có ý nghĩa? Bạn đang nói rằng bạn có thể kiểm tra anh ta ở đây?
Tiến sĩ Gerrigel : “Vâng, tất nhiên. Nghe này, ông Baley, tôi sẽ cho ông một sự tương tự. Nếu tôi là một Bác sĩ Y khoa và phải kiểm tra lượng đường trong máu của bệnh nhân, tôi sẽ cần một phòng thí nghiệm hóa học. Nếu tôi cần đo tốc độ trao đổi chất cơ bản của anh ấy, hoặc kiểm tra chức năng vỏ não của anh ấy, hoặc kiểm tra gen của anh ấy để xác định một trục trặc bẩm sinh, tôi sẽ cần thiết bị phức tạp. Mặt khác, tôi có thể kiểm tra xem anh ta có bị mù hay không bằng cách đưa tay tôi lên trước mắt anh ta và tôi có thể kiểm tra xem anh ta đã chết hay chưa bằng cách chỉ cảm nhận mạch đập của anh ta. “Những gì tôi đang hướng tới là thuộc tính đang được thử nghiệm càng quan trọng và cơ bản thì thiết bị cần thiết càng đơn giản. Nó giống nhau trong một robot. Luật đầu tiên là cơ bản. Nó ảnh hưởng đến mọi thứ. Nếu nó vắng mặt, robot không thể phản ứng đúng theo hai chục cách rõ ràng.”

Mô tả về đánh giá thực tế mà Tiến sĩ Gerrigel thực hiện trên Daneel được mô tả như sau:

Những gì tiếp theo làm anh bối rối và thất vọng.
Tiến sĩ Gerrigel tiếp tục đặt câu hỏi và thực hiện các hành động dường như vô nghĩa, được đánh dấu bằng các tham chiếu đến quy tắc trượt ba lần của ông và đôi khi cho người xem.
Có lần, anh hỏi: “Nếu tôi có hai người anh em họ cách nhau 5 tuổi, em là nữ, vậy em lớn hơn giới tính là bao nhiêu?”
Daneel trả lời (không thể tránh khỏi, Baley nghĩ), "Không thể nói về thông tin được cung cấp."
Phản ứng duy nhất của Tiến sĩ Gerrigel, ngoài việc liếc nhìn đồng hồ bấm giờ, là đưa bàn tay phải của mình sang một bên hết mức có thể và nói, “Bạn có thể chạm vào đầu ngón tay giữa của tôi bằng đầu ngón tay thứ ba không? của bàn tay trái của bạn?
Daneel đã làm điều đó nhanh chóng và dễ dàng.
Trong vòng mười lăm phút, không hơn, Tiến sĩ Gerrigel đã hoàn thành.

Điều này không khác với các cách tiếp cận hiện đại để đánh giá các Mô hình Ngôn ngữ Lớn (LLM). LLM có thể được đánh giá bằng một cách tiếp cận liên quan hơn bao gồm việc tích hợp nó vào các ứng dụng và quy trình khác được gọi là đánh giá bên ngoài và một cách tiếp cận nội tâm hơn nhưng nhanh hơn liên quan đến việc đánh giá AI LLM trực tiếp được gọi là đánh giá bên trong . Việc đánh giá một mô hình được thực hiện bằng các phép đo như độ phức tạp và entropy bằng cách sử dụng các công thức toán học trên tập dữ liệu.

Khi Tiến sĩ Gerrigel đánh giá Daneel, ông ấy tiến hành một loạt thử nghiệm để đánh giá các đặc tính vật lý và chức năng của rô-bốt nhằm xác định xem nó có thực sự là rô-bốt hay không và để hiểu xem nó có được cài đặt đúng theo luật thứ nhất hay không. Tương tự, đánh giá nội tại của một mô hình ngôn ngữ lớn liên quan đến việc phân tích hoạt động bên trong và hiệu suất của nó đối với các nhiệm vụ cụ thể để hiểu mức độ nó đã học các mẫu ngôn ngữ, mối quan hệ và kiến thức từ dữ liệu đào tạo.

Nó thường bao gồm đo lường hiệu suất của nó đối với các nhiệm vụ ngôn ngữ khác nhau, chẳng hạn như dự đoán từ tiếp theo trong câu, trả lời câu hỏi hoặc tóm tắt văn bản. Các nhà nghiên cứu cũng có thể phân tích các biểu diễn bên trong của mô hình, chẳng hạn như kiểm tra các cơ chế nhúng đã học hoặc cơ chế chú ý, để hiểu rõ hơn về kiến thức ngôn ngữ mà nó có được trong quá trình đào tạo. Những đánh giá này giúp xác định điểm mạnh và điểm yếu của mô hình, cũng như khả năng hiểu và tạo ra ngôn ngữ giống con người.

Trong cả hai trường hợp, các đánh giá được thiết kế để đánh giá khả năng của đối tượng (Daneel hoặc một mô hình ngôn ngữ lớn) và để hiểu rõ hơn về các cơ chế cơ bản của chúng.

Mặc dù Asimov không xây dựng thế giới nhiều về các chi tiết của phương pháp 'đánh giá nội tại' của Tiến sĩ Gerrigel ở Daneel, nhưng thật ngạc nhiên khi Asimov dự đoán loại đánh giá AI này sẽ được sử dụng cách đây 70 năm.

Phần kết luận

Đây chỉ là một vài ví dụ về cách Isaac Asimov đào sâu vào mối quan hệ phức tạp giữa AI và loài người, dự đoán tầm quan trọng của kỹ thuật nhanh chóng trong việc tạo ra các phản hồi chất lượng cao hơn từ AI và rô-bốt. Sê-ri Robot của Asimov đại diện cho khoa học viễn tưởng suy đoán ngày càng trở nên phù hợp do sự thành công rộng rãi của các mô hình ngôn ngữ lớn và AI. Nhóm nghiên cứu quan trọng này cung cấp bối cảnh lịch sử có giá trị và cái nhìn sâu sắc cho các nhà khoa học dữ liệu và kỹ sư máy học, làm sáng tỏ nguồn gốc của nhiều ý tưởng và nguồn cảm hứng đương đại trong lĩnh vực này.