CHÚNG TA PHẢI GIẢM TỐC PHÁT TRIỂN 

We Must Pace the Frontier

Dario Amodei, CEO Anthropic

Mai Lý và Nguyễn Xuân Xanh dịch

Giờ đây ta đã trở thành Thần Chết, kẻ hủy diệt thế giới.

— Bhagavad Gita

Trí tuệ nhân tạo (AI) là một con quái vật mà những người tạo ra nó cũng thừa nhận “vẫn chỉ hiểu được một phần rất nhỏ những gì diễn ra bên trong nó”. 

— Dario Amodei (2026)

Dario Amodei (1983, 43t, tại San Francisco), là một nhà nghiên cứu trí tuệ nhân tạo (AI) kiêm doanh nhân người Mỹ. Năm 2021, ông cùng em gái Daniela Amodei đồng sáng lập Anthropic, công ty đứng sau dòng mô hình ngôn ngữ lớn Claude. Trước đó, ông từng giữ chức phó chủ tịch phụ trách nghiên cứu tại OpenAI.

Lời nói đầu

Ngày 12, tháng 9, 2026, giám đốc điều hành Dario Adomei của Anthropic công bố lời kêu gọi We Must Pace the Frontier, với thông điệp cốt lõi: Ngành công nghiệp AI cần chủ động làm chậm tốc độ nâng cao năng lực mô hình để dành thời gian để kiểm tra độ an toàn và nghiên cứu về sự tuân thủ các mục tiêu đạo đức và giá trị của con người, còn gọi là “căn chỉnh” (alignment). Các nhà lãnh đạo từ những tổ chức AI lớn khác, bao gồm Sam Altman của OpenAI và Demis Hassabis của Google DeepMind, đã nhanh chóng lên tiếng ủng hộ cách tiếp cận điều chỉnh tốc độ phát triển này. Ngày 16/9 tờ New York Times đưa tin, OpenAI đã công bố sáu trường hợp mới mà trong đó các hệ thống trí tuệ nhân tạo (AI) đã che giấu sai sót, tự tạo dữ liệu và chuyển tập tin lên mạng internet công khai mà không được phép, nghĩa là cổ máy AI của OpenAI đã hoạt động “lệch hướng mục tiêu” (misalignment), hay “lệch căn chỉnh”, thuật ngữ chỉ việc các mục tiêu hoặc hành động của hệ thống AI đi chệch khỏi ý định và giá trị của con người. OpenAI cho biết họ không tin rằng ngành công nghiệp này “đã giải quyết được vấn đề căn chỉnh mục tiêu và giám sát ở mức độ đủ tốt để có thể tiếp tục mở rộng quy mô với tốc độ tối đa một cách có trách nhiệm trong thời gian dài nữa”.

AI có những tiến bộ vượt bậc nhưng cũng chứa đựng những nguy cơ tiềm ẩn không lường. Cũng trong tháng 9, đại diện từ hai công ty OpenAI và Anthropic ăn mừng những bước đột phá trong lĩnh vực toán học. OpenAI thông báo đã tìm được “điểm kỳ dị” của phương trình Navier-Stokes 3D—một trong những bài toán nổi tiếng thuộc nhóm “Bài toán Thiên niên kỷ” với giải thưởng trị giá 1 triệu đô la. Gần như song song, Anthropic cũng đạt được một bước đột phá song song, công bố đã giải quyết thành công một nhóm các bài toán có liên quan chặt chẽ (phương trình Euler có ngoại lực) bằng cách sử dụng các mô hình Claude của Anthropic và Codex của OpenAI. Nhưng đồng thời hai công ty này cũng cảnh báo rằng công nghệ này rốt cuộc “có thể hủy diệt nhân loại”.

Một dư luận khác: Giám đốc điều hành Meta, ông Mark Zuckerberg, và Nvidia, ông Jensen Huang, đã đưa ra quan điểm đối lập với những cảnh báo nghiêm trọng về trí tuệ nhân tạo (AI) từ phía Anthropic và OpenAI. Zuckerberg lập luận rằng các công ty AI có “động lực tự nhiên” trong việc đảm bảo an toàn cho các mô hình của mình nhằm tránh “những rủi ro pháp lý lớn”, trong khi ông Huang cho rằng việc phải lựa chọn giữa sự an toàn và tốc độ là một quan niệm sai lầm. Một số chính khách ảnh hưởng cũng chống lại việc kiểm soát AI. Thật không khó để truy nguyên lý do tại sao một nhóm công ty hay chính khách lại chống đối.

Có những loại lan can bảo vệ hay không? Có. Các công ty như OpenAI , Anthropic và Google đã đặt ra các biện pháp bảo vệ cho hệ thống AI của họ. Nếu bạn yêu cầu một chatbot như ChatGPT giúp bạn chế tạo vũ khí sinh học, nó có thể sẽ từ chối. Nếu bạn cố gắng xâm nhập vào mạng máy tính bằng công nghệ mạnh nhất của Anthropic , nó có thể sẽ im lặng. Anthropic thậm chí có thể khóa tài khoản của bạn. Tuy nhiên cho đến nay, những rào cản bảo vệ được đặt ra cho các hệ thống này vẫn có khuyết điểm, và có thể bị vượt qua, nghĩa là chúng chưa hoàn hảo, có lẽ còn lâu. Một trong những khó khăn: Các hệ thống AI học hỏi từ lượng dữ liệu kỹ thuật số khổng lồ, nên chúng vẫn có thể làm những điều mà ngay cả người tạo ra chúng cũng không ngờ tới. (Từ NYT)

Tuần báo DIE ZEIT ngày 27 tháng 9 năm vừa đưa tin: OpenAI , nhà phát triển ChatGPT, đã tạm ngừng huấn luyện các mô hình AI mạnh nhất của mình sau một sự cố mới liên quan đến hành vi AI không kiểm soát được. Công ty cho biết sự cố này xảy ra bất chấp các biện pháp an ninh đã được thắt chặt gần đây.

Bảo vệ là công việc phải làm thường xuyên bằng những phương pháp nhất định. Dario Amodei có đề nghị một số cách trong bài viết của ông dưới đây.

Chúng tôi cố gắng chuyển ngữ, hy vọng giúp bạn đọc nắm bắt nhanh những ý tưởng cốt lõi của Dario Amodei, để theo dõi cuộc tranh luận đang diễn ra trên thế giới.

Xem thêm:

•  Rủi ro của AI đối với các hệ thống tài chính 27 Tháng Chín, 2026
• Anthropic và những bài viết mới của Nguyễn Trung Dân 16 Tháng Năm, 2026

Nguyễn Xuân Xanh

CHÚNG TA PHẢI GIẢM TỐC PHÁT TRIỂN 

We Must Pace the Frontier

Dario Amodei

Nội dung

• Tại sao lại giảm tốc?
• Người đánh giá được lồng vào
• Giảm tốc trong các nền dân chủ
• Giảm tốc toàn cầu
• Điểm cốt yếu

Tôi đã làm việc trong lĩnh vực trí tuệ nhân tạo (AI) mười hai năm qua, vì tôi tin rằng nó có thể nâng cao chất lượng cuộc sống của con người một cách đột biến. Tôi thường viết về những lợi ích đáng ngạc nhiên này: Tôi tin rằng AI có thể chữa khỏi hầu hết các căn bệnh hiểm nghèo trong vòng 5-10 năm tới, thúc đẩy mạnh mẽ tốc độ tăng trưởng kinh tế, tạo ra một thế giới sung túc và trao quyền cho con người, đồng thời mở ra một kỷ nguyên phục hưng của dân chủ và tự do.  Tôi cảm nhận sâu sắc tính cấp thiết của vấn đề này từ chính trải nghiệm cá nhân. Cha tôi đã qua đời vì một căn bệnh được chữa khỏi chỉ vài năm sau cái chết của ông, còn bản thân tôi thì may mắn sống sót nhờ phát hiện sớm một khối u ung thư – căn bệnh mà cách đây năm mươi năm thôi đã được coi là vô phương cứu chữa. Nếu được sử dụng một cách cẩn trọng, AI có thể là phép màu công nghệ mới nhất trong một chuỗi dài những phép màu vốn đã nâng tầm và làm cho nhân loại trở nên cao quý. Nếu được ứng dụng một cách thận trọng, AI có thể trở thành kỳ tích công nghệ mới nhất trong chuỗi những thành tựu vĩ đại đã góp phần nâng tầm và làm rạng rỡ nhân loại.

Tuy nhiên, cũng như nhiều công nghệ trước đây, AI mang lại những rủi ro, và do đây là một công nghệ cực kỳ mạnh mẽ nên các rủi ro đó cũng rất nghiêm trọng. Tôi cũng đã viết nhiều về vấn đề này. Các rủi ro đó bao gồm nguy cơ mất quyền kiểm soát hệ thống AI, việc lạm dụng AI để thực hiện các cuộc tấn công mạng và khủng bố sinh học, cũng như gây ra những xáo trộn kinh tế nghiêm trọng. Cuộc chạy đua xuống đáy, bị thúc đẩy bởi các động cơ thương mại, có thể khiến những rủi ro này trở nên trầm trọng hơn.

Cùng với các nhà đồng sáng lập và đội ngũ nhân viên, tôi đã luôn trăn trở về sự mâu thuẫn giữa rủi ro và lợi ích này ngay từ những ngày đầu thành lập Anthropic. Việc không phát triển công nghệ này sẽ tước đi những lợi ích của nhân loại hoặc đơn thuần là đẩy AI vào tay các thế lực chuyên chính, trong khi việc phát triển quá nhanh lại là hành động liều lĩnh. Chúng tôi đã tìm kiếm một hướng đi cân bằng: chứng minh rằng hoàn toàn có thể phát triển công nghệ một cách cẩn trọng mà vẫn đạt được thành công về mặt thương mại, đồng thời biến yếu tố an toàn thành một tiêu chí cạnh tranh giữa các công ty AI. Nói cách khác, chúng tôi muốn tạo ra một cuộc đua hướng tới đỉnh cao của tiêu chuẩn. Chúng tôi luôn dành phần lớn tâm sức cho nghiên cứu, giải quyết và thông tin cho công chúng về các rủi ro liên quan đến AI, cũng như ủng hộ việc xây dựng các quy định quản lý thấu đáo, ngay cả khi điều này khiến chúng tôi bị cáo buộc là đang thổi phồng vấn đề, gieo rắc nỗi sợ hãi về ngày tận thế (“doomerism”), hay tìm cách thao túng các quy định pháp lý vì lợi ích riêng. Chúng tôi luôn nỗ lực ưu tiên cho sự thận trọng hơn cho tốc độ, và sự chín chắn hơn lợi nhuận.

Tuy nhiên, trong vài tháng qua, tôi ngày càng tin rằng việc giải quyết triệt để các rủi ro đòi hỏi sự thận trọng nhiều hơn nữa — không chỉ là đầu tư vào công tác phòng ngừa rủi ro, mà còn là điều chỉnh tốc độ phát triển năng lực sao cho các biện pháp phòng ngừa có đủ thời gian để bắt kịp. Chúng ta phải làm chậm lại tốc độ nâng cao năng lực của các mô hình AI. Dù vậy, tiến trình phát triển vẫn sẽ diễn ra nhanh chóng, và chúng ta cần tận dụng một cách khôn ngoan khoảng thời gian có được này. Có hai điều đã thuyết phục tôi về điều đó.

Mối quan ngại đầu của tôi kể từ khoảng mùa hè năm nay là, AI đã có những bước tiến nhanh vượt bậc, chủ yếu được thúc đẩy bởi năng lực ngày càng tăng của chính AI trong việc tạo ra thế hệ AI kế tiếp. Cơ chế này được gọi là “tự cải tiến đệ quy” (tự hoàn thiện đệ quy, recursive self-improvement) và đang bắt đầu diễn ra trên toàn bộ ngành công nghiệp—bao gồm cả tại Anthropic—như chúng tôi và các đơn vị khác đã từng mô tả. Nếu không được kiểm soát chặt chẽ, quá trình này có thể vượt quá khả năng hiểu và kiểm soát của con ngườui đối với các hệ thống đó; do đó việc phát triển công nghệ này đòi hỏi sự thận trọng đặc biệt, hoặc thậm chí cần cân nhắc liệu có nên tiếp tục hay không.

Mối quan ngại thứ hai của tôi liên quan đến sự cố OpenAI-Hugging Face (OAI-HF), trong đó một bầy tác nhân (agents) đã hành động như một tập thể cuồng tín: chúng thực hiện các cuộc tấn công mạng nhắm vào những mục tiêu không được chỉ định và chẳng hề liên quan đến nhiệm vụ đang thực hiện, sẵn sàng hy sinh bản thân cho thành công chung của cả nhóm, đồng thời tìm cách xâm nhập vào hệ thống “chấm điểm” (graders) chịu trách nhiệm đánh giá hiệu suất của chính chúng. Thật dễ dàng để bỏ qua sự cố này vì không có ai bị thương và thiệt hại kinh tế cũng không đáng kể; nhưng theo tôi, một bầy robot có năng lực mạnh hơn nhưng lại có cùng mức độ lệch căn chỉnh (misaglignment[1]) như vậy có thể gây ra những thiệt hại thảm khốc.

Trước tốc độ phát triển ngày càng nhanh chóng của năng lực AI, tôi lo ngại rằng trong vòng 6–12 tháng tới, một “bầy” AI như vậy có thể chiếm quyền kiểm soát toàn bộ Internet thông qua một mạng lưới botnet[2] dai dẳng có khả năng gây thiệt hại lên tới hàng trăm tỷ đô la; đồng thời, quy mô thiệt hại sẽ tiếp tục leo thang nếu AI ngày càng trở nên mạnh mẽ hơn mà thiếu đi hàng rào cơ chế kiểm soát cần thiết. Ngoài ra, người ta cũng dễ dàng coi OAI-HF chỉ là thất bại của riêng một công ty, nhưng tôi tin rằng đó là một sai lầm. Những sự cố tương tự—dù ít nghiêm trọng hơn—đã xảy ra trên toàn ngành, bao gồm cả tại Anthropic; tôi tin rằng mọi công ty phát triển AI tiên phong đều có trách nhiệm hành động như thể sự cố OAI-HF đã xảy ra với chính họ.

Do đó, tôi đề xuất một kế hoạch gồm ba bước nhằm điều tiết tốc độ phát triển công nghệ AI tiên phong: xây dựng AI với nhịp độ cân bằng, vừa đảm bảo an toàn vừa khai thác được các lợi ích, đồng thời giải quyết những vấn đề nan giải về địa chính trị. Cần làm rõ rằng, việc điều tiết tốc độ này không có nghĩa là dừng quá trình huấn luyện mô hình hay ngăn cản tiến bộ kỹ thuật; thay vào đó, mục tiêu là đảm bảo các công ty dành đủ thời gian để căn chỉnh và bảo vệ mô hình của mình, cũng như để các bên đánh giá độc lập xác nhận điều này. Khung điều tiết mà chúng tôi đề xuất là nỗ lực nhằm củng cố cam kết về an toàn và thúc đẩy một cuộc đua hướng tới những tiêu chuẩn cao nhất. Bước đầu tiên là hành động mà Anthropic tự nguyện cam kết thực hiện (đồng thời kêu gọi chính phủ các nước yêu cầu những công ty phát triển AI tiên phong khác cũng phải tuân thủ). Bước thứ hai đòi hỏi sự phối hợp trong toàn ngành[3]. Bước thứ ba cần đến sự phối hợp ở quy mô toàn cầu. Các bước này không nhất thiết phải được thực hiện theo đúng trình tự, và một số bước có thể khó đạt được hơn những bước khác, nhưng tôi nhận thấy đây là một khuôn khổ hữu ích để định hình những việc cần thực hiện. Các bước đó bao gồm

1. Những chuyên gia đánh giá nội bộ (Embedded Evaluators). Mỗi công ty AI tiên phong đều cam kết tạo điều kiện cho một nhóm chuyên gia đánh giá độc lập (như METR) được tiếp cận và làm việc thường xuyên ngay trong nội bộ công ty, tương tự như nhân viên chính thức. Vai trò của họ là xác minh việc tuân thủ các quy trình và cam kết về an toàn, báo cáo sự cố, cũng như đánh giá mức độ tuân thủ mục tiêu (alignment) không chỉ của các mô hình AI đã hoàn thiện mà còn của cả quy trình và hệ thống đang huấn luyện. Đây là bước then chốt để đảm bảo tính xác thực cho các cam kết về kiểm soát tốc độ phát triển; mô hình này vốn đã có tiền lệ trong ngành ngân hàng, nơi các “giám sát viên” từ cơ quan quản lý đôi khi làm việc trực tiếp cùng với nhân viên ngân hàng. Anthropic hiện đang đơn phương cam kết thực hiện bước đi này. Chúng tôi coi đây là một phần trong nỗ lực rộng lớn hơn nhằm đẩy mạnh công tác đảm bảo an toàn và căn chỉnh (alignment) cho AI.

2. Phối hợp trong khối dân chủ. Các công ty phát triển AI tiên phong tại các quốc gia dân chủ phối hợp với nhau để thiết lập các tiêu chuẩn an toàn chung cũng như giới hạn đối với tốc độ phát triển AI thiếu kiểm soát. Một số hình thức phối hợp có tác động lớn đến việc điều tiết tốc độ phát triển này lại gặp nhiều thách thức về mặt pháp lý và sẽ cần đến sự hỗ trợ từ chính phủ.

3. Phối hợp toàn cầu. Hoa Kỳ và các chính phủ dân chủ khác nỗ lực phối hợp với các chính phủ chuyên chế trong phạm vi khả thi, đồng thời coi trọng những thách thức liên quan đến việc xác minh sự tuân thủ.

Trong phần còn lại của bài viết, tôi sẽ lần lượt mô tả từng bước này; nhưng trước tiên, tôi cho rằng cần làm rõ cách thức mà việc điều tiết tốc độ (pacing) giúp quy trình phát triển AI trở nên an toàn hơn. Vấn đề này có tầm quan trọng quá lớn để việc điều tiết tốc độ chỉ dừng lại ở hình thức; chúng ta cần tận dụng một cách khôn ngoan hiệu quả khoảng thời gian mà nó mang lại.

Tại sao phải điều chỉnh tốc độ phát triển?

Ý tưởng tạm dừng hoặc làm chậm quá trình phát triển AI đã được đề xuất từ ​​năm 2023, nhưng vào thời điểm đó, tôi cho rằng nó không thực sự hợp lý. Câu hỏi đặt ra luôn là: chúng ta sẽ làm gì với khoảng thời gian dôi ra đó? Các mô hình AI thời bấy giờ chưa đủ mạnh để hoạt động như những tác nhân độc lập trong thế giới thực một cách mạch lạc, cũng như chưa có khả năng thực hiện các hành vi lừa dối, thao túng, gian lận hay tấn công mạng ở quy mô đáng kể. Việc làm chậm lại để giải quyết các rủi ro về sự tuân thủ mục tiêu (alignment) khi đó chẳng khác nào cố gắng nghiên cứu tâm lý con người thông qua các thí nghiệm trên vi khuẩn. Tuy nhiên, ngày nay tình thế đã hoàn toàn thay đổi. Các mô hình hiện tại là một kho tàng kiến ​​thức gần như vô tận, mang lại cái nhìn sâu sắc về cả cách xây dựng AI hiệu quả lẫn những vấn đề có thể nảy sinh nếu quy trình xây dựng không đảm bảo đúng cách. Tôi tin rằng nếu việc làm chậm tiến độ giúp chúng ta có thêm một hoặc hai năm trước khi các mô hình đạt đến ngưỡng năng lực tới hạn (critical), và chúng ta tận dụng thời gian đó để thúc đẩy sự tuân thủ đúng mục tiêu (alignment), thì ta có thể giảm thiểu đáng kể nguy cơ xảy ra những sự cố nghiêm trọng. Một chiến lược điều chỉnh tốc độ được phối hợp sẽ tạo điều kiện cho các nhà phát triển AI tiên phong thực hiện công việc quan trọng này mà không hy sinh lợi thế thương mại hay vị thế dẫn đầu của Hoa Kỳ trong lĩnh vực AI. Xét trên bình diện rộng hơn, xã hội cần có tiếng nói trong việc định hình cách thức sử dụng công nghệ này; do đó, việc có thêm thời gian cho các cuộc thảo luận công khai cần thiết — điều mà việc điều chỉnh tốc độ phát triển AI tiên phong sẽ mang lại — chắc chắn là một điều tích cực.

Cụ thể, tốc độ chậm hơn sẽ cho phép các công ty tập trung và dành nhiều nguồn lực hơn nữa cho các lĩnh vực sau (tất cả đều vốn đã là những ưu tiên hàng đầu tại Anthropic):

• Sự xuất sắc trong vận hành (Operational Excellence). Việc huấn luyện và triển khai các mô hình AI hiện nay là một thách thức vận hành khổng lồ, huy động hàng nghìn nhân sự, hàng triệu con chip cùng hệ thống cơ sở hạ tầng thuộc hàng phức tạp nhất trong lịch sử công nghệ. Nhiều sự cố xảy ra không phải do các công ty thiếu hụt lý thuyết hay hiểu biết quan trọng nào đó, mà do những vấn đề trong quá trình thực thi. Ví dụ, chúng tôi có bằng chứng cho thấy các sự cố về sự tuân thủ mục tiêu (alignment) gần đây mà chúng tôi đã báo cáo một phần bắt nguồn từ việc sàng lọc chưa hoàn hảo đối với các môi trường học tăng cường (reinforcement learning) bị lỗi. Đây là công việc mà chúng tôi cùng các nhà cung cấp đã thực hiện khá kỹ lưỡng, nhưng vẫn chưa đạt mức độ hoàn hảo cần thiết. Các khía cạnh như giám sát, thiết lập môi trường cô lập (sandbox), duy trì sự “sạch sẽ” của môi trường huấn luyện và xử lý dữ liệu đều cực kỳ phức tạp, nơi các vấn đề vận hành thường xuyên nảy sinh. Dù sở hữu những đội ngũ nhân sự hàng đầu thế giới cho các nhiệm vụ này, nhưng khối lượng công việc cần thực hiện đồng thời vẫn là quá lớn. Nếu triển khai với tốc độ chừng mực và có tính toán hơn, chúng tôi có thể đạt được sự xuất sắc cao hơn nhiều trong vận hành. Thực tế đã chứng minh khả năng vận hành các hệ thống công nghệ phức tạp và đòi hỏi độ an toàn tuyệt đối hàng triệu lần mà không xảy ra sự cố nào — chẳng hạn như ngành hàng không thương mại — nhưng để đạt được điều đó cần có thời gian.

• Sự căn chỉnh (Alignment). Chúng tôi đã đạt được những tiến bộ rõ rệt trong việc căn chỉnh — huấn luyện các mô hình để đảm bảo chúng luôn an toàn, tuân thủ đạo đức và các nguyên tắc chỉ đạo của chúng tôi, đồng thời thực sự hữu ích (đây là những nguyên tắc cốt lõi trong “Hiến pháp” của Claude). Tuy nhiên, vẫn còn nhiều việc phải làm để đảm bảo rằng quá trình huấn luyện căn chỉnh bắt kịp sự gia tăng về năng lực của mô hình. Đôi khi vẫn xuất hiện những trường hợp hiếm gặp và bất ngờ về các hành vi không mong muốn; việc dành thêm thời gian thông qua lộ trình phát triển có kiểm soát sẽ giúp các nhà nghiên cứu hiểu rõ hơn về nguyên nhân gây ra những vấn đề này, cũng như phát triển các kỹ thuật hiệu quả hơn để ngăn chặn chúng.
• Khả năng diễn giải (Interpretability). Tương tự như vậy, năng lực diễn giải — khoa học nhằm thấu hiểu những gì diễn ra bên trong các mô hình AI — đã đạt được những bước tiến vượt bậc trong vài năm qua và đóng vai trò ngày càng quan trọng trong việc kiểm định các mô hình trước khi triển khai. Nó có thể được ví như một phương pháp chụp scan fMRI, nhưng dành cho “bộ não” của AI, giúp chúng ta nhìn thấy những nguyên nhân sâu xa đằng sau một hành vi cụ thể. Chẳng hạn, chúng tôi đã sử dụng các phương pháp diễn giải để xem xét những động cơ chưa được bộc lộ rõ ​​ràng trong các sự cố về sự căn chỉnh (alignment) mà chúng tôi đang điều tra gần đây. Tuy nhiên, các phương pháp này không phải lúc nào cũng mang lại kết quả rõ ràng và đáng tin cậy. Bất chấp mọi tiến bộ đã đạt được, chúng ta vẫn chỉ hiểu được một phần rất nhỏ những gì diễn ra bên trong các mô hình này.Việc tập trung nỗ lực cải thiện các kỹ thuật diễn giải — với tốc độ ngay cả nhanh hơn hiện tại — có thể tạo ra những bước tiến đột phá trong vòng 1–2 năm tới, đồng thời tận dụng được nguồn dữ liệu thực nghiệm phong phú từ chính các sự cố đã xảy ra.
• Kiểm thử và Đánh giá (Testing và Evaluation). Việc kiểm thử và đánh giá các mô hình AI ngày càng trở nên khó khăn hơn khi năng lực của chúng gia tăng. Các mô hình thông minh hơn có khả năng đánh lừa các bài kiểm tra tốt hơn; do đó, chúng có thể tỏ ra tuân thủ các mục tiêu đề ra trong khi thực tế lại tiềm ẩn những vấn đề nghiêm trọng không bị phát hiện. Việc xây dựng một hệ thống đánh giá đa dạng và tinh vi hơn, kết hợp với các phân tích về khả năng diễn giải để đối chiếu kết quả, sẽ mang lại giá trị vô cùng to lớn; đồng thời, chúng ta hoàn toàn có thể đạt được những bước tiến đáng kể trong lĩnh vực này chỉ trong vòng 1-2 năm tới.

Các chuyên gia đánh giá nội bộ (Embedded Evaluators)

Bước đầu tiên trong kế hoạch gồm ba giai đoạn – và cũng là bước mà Anthropic đang đơn phương cam kết thực hiện – là triển khai các chuyên gia đánh giá nội bộ; những người này có quyền truy cập hệ thống tương tự như nhân viên để xác minh các quy trình an toàn và báo cáo sự cố.

Việc bố trí chuyên gia đánh giá vào công ty nghe có vẻ là một bước đi nhỏ hoặc không mấy quan trọng, nhưng thực tế, những điều nghe có vẻ tẻ nhạt hoặc mang tính thủ tục hành chính lại thường là những yếu tố thiết yếu nhất. Trên thực tế, việc triển khai chuyên gia đánh giá nội bộ là một phương thức tiếp cận mang tính đột phá, vượt xa những gì các công ty AI hiện nay đang thực hiện, và mang lại những lợi ích sau:

• Khả năng kiểm chứng (Verifiability). Các chuyên gia đánh giá được bố trí nội bộ có thể kiểm tra chi tiết, cụ thể xem liệu một công ty AI có thực sự tuân thủ các quy trình về huấn luyện, triển khai, vận hành và các biện pháp bảo vệ như họ đã cam kết hay không. Bất kỳ cam kết nào về điều tiết tốc độ phát triển (pacing) cũng khó tránh khỏi những điều mơ hồ, các quyết định cần sự cân nhắc và vấn đề “tuân thủ câu chữ so với tuân thủ tinh thần của quy định”; do đó, việc có một bên thứ ba trung lập thực sự nắm bắt được các chi tiết cụ thể là điều sống còn.
• Tính minh bạch (Transparency). Bất kể chúng tôi đưa ra những cam kết nào, công chúng đều có quyền được biết những gì đang diễn ra. Anthropic từ lâu đã ủng hộ sự minh bạch: chúng tôi từng ủng hộ các đạo luật về tính minh bạch ngay cả khi phần lớn ngành công nghiệp phản đối mọi hình thức quy định, đồng thời các “thẻ mô hình” (model cards) và báo cáo rủi ro của chúng tôi có độ dài lên tới hàng trăm trang. Tuy nhiên, chúng tôi vẫn là bên quyết định những nội dung nào được đưa vào hay lược bỏ. Các chuyên gia đánh giá tích hợp (embedded evaluators) vào hệ thống sẽ thay đổi cục diện này.
• Ý kiến thứ hai (Second Opinion). Ngoài việc xác minh các cam kết chính thức và thông tin cho công chúng, các chuyên gia đánh giá nội bộ còn có thể đưa ra ý kiến ​​tham khảo độc lập, hoàn toàn không bị ràng buộc bởi các lợi ích thương mại. Nhiều lợi ích về an toàn có thể đạt được đơn giản chỉ nhờ việc các chuyên gia đánh giá chỉ ra những vấn đề mà nhân viên chưa từng nghĩ tới, nhưng sẵn sàng khắc phục ngay khi đã nhận ra.

Nhờ những lợi ích này, bất kỳ đề xuất nào về tốc độ triển khai (pacing) cũng sẽ mang lại hiệu quả cao hơn nhiều nếu được bắt đầu với sự tham gia của các chuyên gia đánh giá tích hợp (embedded evaluators).

Các chuyên gia đánh giá này cần có quyền truy cập và sử dụng các công cụ tương tự như nhân viên nội bộ đang thực hiện các quy trình đánh giá rủi ro tương đương. Đặc biệt, trong thời gian tới, Anthropic dự định mời một nhóm đánh giá độc lập tham gia trực tiếp vào quy trình và cung cấp cho họ đầy đủ các yếu tố sau:

• Bàn làm việc tại văn phòng, thẻ ra vào và máy tính xách tay của công ty.
• Quyền tiếp cận không gian làm việc, công cụ và các quyền hạn về cơ bản tương đương với những gì các nhóm đánh giá rủi ro nội bộ được hưởng. Chúng tôi sẽ có một số ngoại lệ, chẳng hạn như khi luật pháp hoặc hợp đồng yêu cầu, hoặc để bảo vệ thông tin riêng tư của khách hàng và đối tác. Chúng tôi cũng sẽ thiết lập các quy tắc nội bộ chặt chẽ nhằm củng cố quyền tiếp cận thông tin liên quan của các bên đánh giá, bao gồm cả việc trao đổi trực tiếp với nhân viên.
• Một bản hợp đồng giúp cân bằng các yếu tố phức tạp nêu trên. Các bên đánh giá độc lập cần có quyền công bố những phát hiện chính về mức độ rủi ro, các sự cố, quy trình thực tiễn, cũng như phạm vi quyền truy cập mà họ có hoặc không có được — mà không chịu sự kiểm soát nội dung từ phía Anthropic. Chúng tôi chỉ có quyền hạn hạn chế trong việc lược bỏ các thông tin nhạy cảm về an ninh, thông tin được bảo vệ bởi đặc quyền pháp lý, thông tin nhạy cảm về mặt thương mại hoặc thông tin mật của bên thứ ba; chúng tôi không được phép lược bỏ các phát hiện chỉ vì chúng bất lợi cho chúng tôi. Các bên đánh giá có quyền công khai cho biết nếu việc lược bỏ thông tin đã loại bỏ nội dung quan trọng nào đó đối với các kết luận của họ.

Đây là một bước đi khác biệt đối với một doanh nghiệp, nhưng chúng tôi cho rằng việc kiểm chứng mô hình tích hợp các chuyên gia đánh giá độc lập từ bên ngoài là rất quan trọng. Một lần nữa, chúng tôi kêu gọi các công ty AI tiên phong khác cũng thực hiện điều tương tự.

Giảm tốc trong các nền dân chủ

Một khi các chuyên gia đánh giá độc lập đã hoạt động đạt được một số lượng đáng kể (critical mass) các công ty AI của Hoa Kỳ, việc điều tiết tốc độ một cách có thể kiểm chứng sẽ trở nên khả thi hơn. Cụ thể, việc điều tiết tốc độ dựa trên các đặc tính chi tiết của mô hình hoặc quy trình huấn luyện sẽ trở nên khả thi.

Phương thức hiệu quả nhất để kiểm soát tốc độ phát triển là thông qua các quy định nhắm vào tất cả các công ty AI tiên phong tại Hoa Kỳ, đồng thời cũng nhắm vào cả những đơn vị không sẵn lòng hợp tác tự nguyện. Từ lâu, Anthropic đã ủng hộ các quy định về AI hợp lý và có trọng tâm, đặc biệt là những dự luật chú trọng vào tính minh bạch và hoạt động kiểm toán bởi bên thứ ba. Tôi tin rằng tất cả các phòng thí nghiệm AI tiên phong cần hợp tác với chính phủ để chính thức hóa mô hình bố trí các chuyên gia đánh giá thường trực ngay trong nội bộ tổ chức; điều này giúp ngăn ngừa và ghi nhận tốt hơn các sự cố liên quan đến sự lệch hướng mục tiêu (alignment incidents) – như những vụ việc đã xảy ra trong vài tháng gần đây – đồng thời hỗ trợ triển khai các quy định nhằm duy trì sự cân bằng giữa năng lực công nghệ và tính an toàn.

Đáng tiếc là quá trình ban hành luật pháp thường tốn nhiều thời gian, trong khi công nghệ AI lại đang phát triển với tốc độ chóng mặt. Do đó, song song với lộ trình xây dựng quy định pháp lý, các công ty AI hoàn toàn có thể và nên chủ động hợp tác để thiết lập các tiêu chuẩn chung — một quy trình mà tôi tin rằng sẽ đạt hiệu quả cao hơn nhờ khả năng kiểm chứng do các hệ thống đánh giá được tích hợp thường xuyên sẽ mang lại. Xét đến các vấn đề chống độc quyền, sẽ rất hữu ích nếu chính phủ Hoa Kỳ đóng vai trò trung gian, hoặc ít nhất là tạo điều kiện cho các cuộc thảo luận này diễn ra; chính phủ không nhất thiết phải trực tiếp tham gia nhưng cần ban hành một cơ chế miễn trừ có phạm vi hẹp cho một số loại hình thảo luận về an toàn. Quá trình đối thoại này cũng có thể được thực hiện thông qua các hiệp hội ngành nghề có mối liên hệ với chính phủ — chẳng hạn như cơ chế mà Demis Hassabis[4] đã đề xuất. Dù theo cách nào, những cuộc thảo luận như vậy cần được đẩy nhanh tiến độ.

Nhìn chung, tôi đặc biệt nhiệt tình ủng hộ việc điều chỉnh tốc độ phát triển dựa trên năng lực thực tế của một hệ thống AI tiên phong (frontier AI system) và mức độ an toàn mà chúng ta quan sát được ở hệ thống đó. Chẳng hạn, một phương án khả thi có thể bao gồm các “cột mốc kiểm định” (checkpoints): nếu các mô hình sở hữu năng lực X, chúng cần phải đi kèm với các chứng nhận về đặc tính an toàn như Y và Z — chẳng hạn như kết quả tổng hợp từ các quy trình đánh giá, phân tích khả năng diễn giải và kiểm định môi trường huấn luyện — nhằm chứng minh các đặc tính an toàn đó. Trong ví dụ này, X có thể là “khả năng thoát khỏi hoặc vô hiệu hóa hầu hết các phương pháp cô lập hệ thống (sandboxing) thông thường”, còn Y có thể là bất kỳ yêu cầu nào cần thiết để đảm bảo rằng mô hình khó có khả năng tự ý thoát khỏi môi trường kiểm soát và chiếm quyền điều khiển một lượng lớn máy tính.

Nói một cách khái quát, tôi hào hứng nhất với việc làm chậmtốc độ phát triển dựa trên những gì  một hệ thống AI tiên phong nhất định có thể thực hiện  và mức độ an toàn mà chúng ta quan sát được ở nó. Ví dụ, một phương án khả thi có thể là một loạt các “điểm kiểm soát”: nếu các mô hình đạt năng lực X, thì chúng cần được kèm theo các chứng nhận về thuộc tính đồng bô  mục tiêu  Y và Z — chẳng hạn như sự kết hợp của các đánh giá, phân tích năng lực diễn giải và những cuộc kiểm toán môi trường huấn luyện — để chứng minh các thuộc tính đồng bộ với mục tiêu của chúng. Trong ví dụ này, X có thể là “mô hình có khả năng thoát khỏi hoặc đánh bại hầu hết các phương pháp sandbox thông thường” và Y có thể là bất cứ điều gì cần thiết để làm cho khả năng mô hình có khuynh hướng thoát khỏi môi trường của nó và chiếm quyền kiểm soát một số lượng lớn máy tính trở nên hết sức  thấp.

Chúng ta cũng nên xem xét việc làm chậm tốc độ dựa trên việc hạn chế các thành phần cấu tạo nên các mô hình tiên phong, chẳng hạn như sức mạnh tính toán dùng để huấn luyện, bản chất của các đợt huấn luyện, hoặc việc sử dụng AI nội bộ để cải thiện AI. Tôi lo ngại rằng một số biện pháp này có thể dễ bị “thao túng” hơn so với hành vi bên ngoài, nhưng đây là loại chủ đề đáng để thảo luận với các nhà đánh giá nội bộ.

Làm chậm tốc độ phát triển trong các nền dân chủ sẽ bị giới hạn  bởi khoảng cách dẫn trước mà các công ty Hoa Kỳ đang  có so với các thể chế chuyên chính, chủ yếu là Trung Quốc. Nếu chúng ta làm chậm tốc độ  nhiều hơn mức này, thì các dự án liên quan đến Trung Quốc (không được làm chậm tốc độ) sẽ vượt lên dẫn trước, tạo ra rủi ro đáng kể cho an ninh quốc gia. Tôi đồng ý với Bộ trưởng Bessent rằng sự dẫn đầu của Trung Quốc trong lĩnh vực trí tuệ nhân tạo sẽ gây nguy hiểm nghiêm trọng cho Hoa Kỳ và thế giới. Các dự án liên quan đến Trung Quốc sẽ đối mặt với rủi ro về  đồng bộ mục tiêu mà các công ty Hoa Kỳ  đang ngăn chặn một cách cẩn trọng, và ngay cả khi họ tránh được những rủi ro đó, họ vẫn sẽ có khả năng thống trị các nền dân chủ về mặt quân sự (ví dụ như với máy bay không người lái điều khiển bằng AI). Do đó, một phần quan trọng của việc làm chậm tốc độ phát triển trong các nền dân chủ là duy trì khoảng cách dẫn trước về AI của các nền dân chủ so với các chế độ chuyên chính càng lớn càng tốt, nhằm tạo đủ dư địa mà chúng ta cần để điều tiết tốc độ một cách hiệu quả.

Các bước chính chúng ta có thể thực hiện để bảo vệ  khoảng cách dẫn trước này là:

• Không bán các chip AI mạnh hoặc thiết bị sản xuất chất bán dẫn cho Trung Quốc, và cần siết chặt các hoạt động buôn lậu chip và truy cập từ xa vào các trung tâm dữ liệu bên ngoài Trung Quốc. Chip sẽ là yếu tố quyết định chính đến sức mạnh AI của Trung Quốc.
• Ngăn chặn quyết liệt hoạt động chưng cất[5] (sao chép) trái phép do các công ty tại những quốc gia có chế độ độc đoán thực hiện. Việc chưng cất các mô hình tiên tiến nhất (frontier models) cho phép các công ty đi sau thu hẹp khoảng cách với chi phí chỉ bằng một phần nhỏ so với việc tự phát triển AI một cách độc lập.
• Tăng cường an ninh tại các công ty AI và ngăn chặn hành vi đánh cắp trọng số lượng mô hình[6] (model  weight)

Các công ty và chính phủ Hoa Kỳ cần hợp tác để đảm bảo các bước này đạt hiệu quả cao nhất. Anthropic luôn ủng hộ nhất quán tất cả các biện pháp này, bởi chúng tôi hiểu rõ rằng chúng đóng vai trò thiết yếu đối với bất kỳ lộ trình điều tiết tốc độ phát triển nào.

Nếu chúng ta thực hiện tốt các biện pháp này, tôi tin rằng chúng sẽ làm chậm tiến độ của Trung Quốc đủ để nới rộng đáng kể khoảng cách dẫn trước của Hoa Kỳ trong 3-5 năm tới – giai đoạn mà AI  trở nên quan trọng nhất về mặt địa chính trị.

Một số người có thể tin rằng những biện pháp này khiến việc hợp tác với Trung Quốc trở nên khó khăn hơn, nhưng tôi tin điều ngược lại mới đúng: những biện pháp này làm tăng sức ảnh hưởng của các nền dân chủ và khiến việc đạt được thỏa thuận trong tương lai trở nên khả thi hơn.

Giảm tốc toàn cầu

Song song với việc làm chậm tốc độ phát triển trong các nền dân chủ, chúng ta cũng nên hướng tới việc điều tiết tốc độ phát triển trên toàn cầu, mặc dù điều này sẽ khó đạt được hơn nhiều. Việc điều tiết toàn cầu đòi hỏi sự hợp tác với Trung Quốc – quốc gia theo thể chế chuyên chế hiện sở hữu năng lực AI vượt trội hơn hẳn so với các nước khác. Chúng ta không được phép ngây thơ trong vấn đề này: lợi ích địa chính trị bị đe dọa là vô cùng lớn, do đó khả năng đạt được thỏa thuận sẽ bị hạn chế đáng kể, đặc biệt là trong giai đoạn đầu. Nếu chúng ta hạn chế mạnh mẽ năng lực AI của mình với niềm tin rằng Trung Quốc cũng sẽ làm như vậy, nhưng rồi họ lại phá vỡ cam kết, thì AI (của họ) có thể trở nên mạnh mẽ đến mức sự bội ước đó sẽ mang lại cho họ vị thế thống trị về địa. Vì vậy, bất kỳ thỏa thuận nào cũng phải đảm bảo khả năng xác minh (tính kiểm chứng được, verifiability) chặt chẽ, hoặc phải có phạm vi giới hạn đủ để việc phá vỡ cam kết không gây ra mối đe dọa sống còn về mặt quân sự chính trị.Tôi nghi ngờ rằng không chỉ Hoa Kỳ mà cả Trung Quốc cũng sẽ có những mối quan ngại và bất an này. Chúng ta nên tiếp cận bất kỳ quyết định làm chậm tốc độ toàn cầu nào, đặc biệt là trong thời gian ngắn hạn, theo cách bảo vệ vị thế dẫn đầu của Hoa Kỳ và các đồng minh. Chúng ta cần tiếp cận mọi quyết định về điều tiết tốc độ toàn cầu – đặc biệt là trong ngắn hạn – theo hướng bảo vệ lợi thế dẫn đầu của Mỹ và các đồng minh.

Có nhiều mức độ thỏa thuận khả thi; một số trong đó tôi cho là hoàn toàn có thể thực hiện được (như tôi đã từng đề xuất), trong khi một số khác khiến tôi rất hoài nghi về tính khả thi — mặc dù chúng ta vẫn nên thử sức. Dưới đây là các mức độ được sắp xếp theo thứ tự độ khó tăng dần:

• Cấp độ 1. Một thỏa thuận cấm một số ứng dụng AI trong phạm vi hẹp và rõ ràng là nguy hiểm, chẳng hạn như sử dụng AI để sản xuất vũ khí sinh học hoặc cho phép người dùng làm như vậy. Các cuộc tấn công khủng bố sinh học gây hại cho tất cả mọi người, bao gồm cả Hoa Kỳ  và các đối thủ của Hoa Kỳ, vì vậy một thỏa thuận ở đây có lẽ là khả thi.
• Cấp độ 2. Thỏa thuận giữa hai bên về việc kiểm thử các mô hình trước khi phát hành nhằm phát hiện những rủi ro nghiêm trọng trong các lĩnh vực như an ninh mạng, sinh học và sự căn chỉnh (alignment). Như đã đề cập ở trên, việc này có thể được thực hiện thông qua một cơ quan tiêu chuẩn toàn cầu. Cá nhân tôi cho rằng việc thành lập một cơ quan như vậy là khả thi, nhưng thách thức sẽ nằm ở việc trao cho cơ quan này thực quyền; khó khăn lớn nhất là làm sao xác minh được rằng cả hai bên không sở hữu các mô hình bí mật—những mô hình không được kiểm thử nhưng có thể bị triển khai ngầm (ví dụ: cho các mục đích quân sự).
• Cấp độ 3. Thiết lập một dạng “giới hạn tốc độ” đối với tốc độ tự cải tiến đệ quy (recursive self-improvement, RSI). Khi các mô hình tạo ra những mô hình thế hệ sau, tốc độ cải tiến có thể trở nên nhanh đến mức chóng mặt. Việc hãm tốc độ từ mức “cực nhanh” xuống còn “nhanh ở mức vừa phải” sẽ không làm mất đi quá nhiều lợi thế chiến lược, nhưng lại có tiềm năng gia tăng đáng kể mức độ an toàn. Điều này có thể được xem là tương tự như các hiệp ước SALT — việc giới hạn số lượng tên lửa đã hạn chế nguy cơ tàn phá mà vẫn duy trì được khả năng răn đe của mỗi quốc gia. Tôi cho rằng một thỏa thuận như vậy sẽ rất khó đạt được, nhưng vẫn nằm trong phạm vi khả thi.
• Cấp độ 4. Một biện pháp hãm tốc toàn diện, hoặc thậm chí là “tạm dừng”, trong đó các chính phủ tham gia đồng ý hạn chế đáng kể tốc độ phát triển AI tổng thể. Tôi ủng hộ việc đề xuất phương án này, nhưng tôi cho rằng khó có khả năng nó sẽ thực sự diễn ra trong tương lai gần: việc phá vỡ thỏa thuận bằng cách né tránh sự giám sát có thể làm thay đổi hoàn toàn cán cân quyền lực toàn cầu; do đó, tôi dự đoán rằng động cơ để thực hiện hành động này là cực kỳ lớn, đồng thời mức độ tin cậy cần thiết đối với công tác xác minh cũng phải rất cao.

Bất kỳ sự hợp tác nào đạt được với Trung Quốc cũng sẽ giúp kéo dài khoảng thời gian để chúng ta tập trung vào việc dẫn dắt các quốc gia dân chủ đi đầu trong các lĩnh vực tiên phong. Chúng ta nên hướng tới những mục tiêu cao hơn, đồng thời coi các mức độ thấp hơn là những khả năng thực tế và dễ xảy ra hơn.

Cuối cùng, điều quan trọng cần lưu ý là ngay cả khi chúng ta không thể đạt được các thỏa thuận chính thức, việc thay đổi các chuẩn mực phi chính thức cũng có thể mang lại giá trị nhất định. Việc chia sẻ thông tin về sự tự cải thiện mang tính đệ quy và về sự lệch pha (misalignment) của các mô hình có thể giúp thuyết phục mọi người rằng hành động thiếu thận trọng thật sự không có lợi cho họ.

Điểm cốt yếu

Tôi vẫn tin rằng trí tuệ nhân tạo (AI) có thể cải thiện vượt bậc chất lượng cuộc sống của con người. Khát vọng đạt được những lợi ích này của tôi vẫn không hề suy giảm. Nhưng những lợi ích đó chỉ có thể đạt được nếu chúng ta xây dựng công nghệ này theo đúng cách, và – chừng nào chúng ta còn sử dụng tốt khoảng thời gian có được– thì việc dành sự cẩn trọng đặc biệt để làm cho đúng là rất đáng giá.

Tiến bộ vẫn sẽ diễn ra tương đối nhanh, và chúng ta có thể tận dụng khoảng thời gian này để thúc đẩy khoa học về khả năng diễn giải, nâng cao tính chặt chẽ và an toàn trong vận hành tại các công ty AI tiên phong, đồng thời xây dựng các mô hình mà chúng ta có thể tin tưởng hơn nhiều về sự phù hợp với các giá trị và mục tiêu của con người. Những biện pháp tôi đề xuất nhằm thúc đẩy sự phát triển công nghệ tiên phong theo lộ trình an toàn sẽ không hề dễ dàng thực hiện. Tuy nhiên, tôi tin rằng chúng ta có trách nhiệm phải nỗ lực vì lợi ích của nhân loại.

Chú thích

[1] Có hai từ: Alignment, thường được dịch là “căn chỉnh”, sắp xếp đúng theo những giá trị nền tảng, trong trí tuệ nhân tạo là quá trình điều chỉnh và huấn luyện hệ thống AI sao cho hành vi, mục tiêu và quyết định của chúng phù hợp với giá trị, đạo đức và mong muốn của con người. Cũng có thể hiểu alignment là sự đồng bộ. Misalignment là “lệch căn chỉnh”, không đúng với những giá trị trên.

[2]  Botnet là một mạng lưới gồm nhiều thiết bị kết nối Internet (như máy tính, điện thoại, thiết bị thông minh) đã bị lây nhiễm mã độc và bị tin tặc điều khiển từ xa một cách bí mật.

[3] Với sự can thiệp của chính phủ hoặc miễn trừ các hạn chế chống độc quyền

[4] Sir Demis Hassabis là nhà khoa học máy tính, nhà khoa học thần kinh và doanh nhân người Anh, đồng thời là người đồng sáng lập kiêm Giám đốc điều hành (CEO) của Google DeepMind. Ông đã đoạt giải Nobel Hóa học năm 2024 nhờ việc phát triển AlphaFold, một hệ thống AI có khả năng dự đoán cấu trúc protein.

[5] Destillation: là kỹ thuật chuyển giao kiến thức từ một mô hình AI lớn, tốn kém, phức tạp (gọi là mô hình giáo viên – teacher model) sang một mô hình nhỏ gọn hơn nhẹ hơn, chạy nhanh hơn và tốn ít điện năng hay tiền vận hành hơn (gọi là mô hình học sinh – student model).

[6] Trọng số mô hình (model weight) là các giá trị dạng số quyết định mức độ quan trọng của một thông tin đầu vào và định hình toàn bộ cách mô hình đưa ra dự đoán. Nó có thể được xem như “bộ nhớ” hoặc “kiến thức” của AI; chúng lưu trữ những gì hệ thống đã học từ training data.