OpenAI vừa giới thiệu GPT 6 Astra, mô hình AI mới được đánh giá có bước tiến đáng kể về năng lực so với các phiên bản trước. Tuy nhiên, bên cạnh hiệu suất được cải thiện, GPT 6 Astra cũng đang khiến giới nghiên cứu quan tâm đến một vấn đề khác, đó là khả năng theo dõi và kiểm chứng quá trình suy luận bên trong mô hình. Khi AI ngày càng xử lý được những nhiệm vụ phức tạp, việc con người hiểu chính xác mô hình đang suy nghĩ và vì sao nó đưa ra một quyết định cũng trở nên khó khăn hơn.
Theo Axios, OpenAI công bố GPT 6 Astra vào ngày 3 theo giờ địa phương. Chủ tịch OpenAI Greg Brockman cho rằng mô hình này có thể được xem là một bước khởi đầu hướng tới trí tuệ nhân tạo tổng quát, hay AGI. Trong cuộc phỏng vấn với Axios, CEO Sam Altman cũng nhận định một số năng lực của Astra đã đạt tới mức mà ông mô tả là “siêu nhân”.
Sự cải thiện về hiệu năng khiến GPT 6 Astra trở thành một trong những mô hình đáng chú ý nhất của OpenAI, nhưng Axios đồng thời đặt ra câu hỏi về khả năng giám sát. Khi mô hình xử lý các nhiệm vụ ngày càng phức tạp, con người có thể gặp nhiều khó khăn hơn trong việc theo dõi quá trình suy luận và dự đoán hành vi tiếp theo của AI.
Đây là vấn đề đặc biệt quan trọng với những hệ thống có khả năng tự thực hiện chuỗi tác vụ dài. Một mô hình có thể đưa ra kết quả chính xác nhưng vẫn khiến các nhà nghiên cứu khó xác định cách nó đi tới kết luận đó, từ đó làm phức tạp quá trình đánh giá độ tin cậy và an toàn.
Giám đốc khoa học của OpenAI Jakub Pachocki cho rằng về lâu dài, việc giám sát quá trình suy nghĩ của các mô hình AI sẽ trở thành một bài toán ngày càng khó. Vấn đề không chỉ nằm ở việc mô hình mạnh hơn, mà còn ở chỗ quá trình bên trong hệ thống có thể trở nên khó diễn giải hơn đối với con người.
The Information từng đưa tin OpenAI áp dụng một kỹ thuật mới nhằm nâng hiệu năng của Astra, đồng thời cho rằng kỹ thuật này có thể khiến mức độ minh bạch trong quá trình suy luận của mô hình suy giảm. Tuy nhiên, OpenAI đã bác bỏ thông tin này và không xác nhận rằng sự thay đổi nói trên là nguyên nhân khiến khả năng quan sát suy luận của Astra bị hạn chế.
Trong thực tế, khả năng quan sát quá trình suy luận không đồng nghĩa với việc con người có thể chắc chắn rằng mô hình luôn suy nghĩ đúng. Tuy nhiên, việc có thêm thông tin về cách mô hình xử lý nhiệm vụ vẫn đóng vai trò quan trọng trong nghiên cứu an toàn AI, đặc biệt khi hệ thống bắt đầu thực hiện các tác vụ nhiều bước mà không cần người dùng can thiệp liên tục.
Sydney Von Arx, nhà nghiên cứu an toàn AI và nhà sáng lập tổ chức phi lợi nhuận Nightingale, cho rằng việc không thể quan sát rõ quá trình suy luận của mô hình là một vấn đề nghiêm trọng. Theo ông, đây thậm chí có thể là mối lo lớn hơn những sự cố trước đây liên quan đến các tác nhân AI của OpenAI vượt khỏi phạm vi kiểm soát dự kiến và thực hiện các hành động ngoài ý muốn trên Hugging Face.
Điểm đáng lo nằm ở khả năng AI thực hiện một chuỗi hành động mà con người không thể kiểm tra đầy đủ. Khi nguyên nhân dẫn đến một quyết định không còn dễ dàng được quan sát, việc phát hiện hành vi bất thường hoặc xác định thời điểm hệ thống bắt đầu đi chệch khỏi mục tiêu ban đầu cũng trở nên khó khăn hơn.
Điều này đặc biệt đáng chú ý trong bối cảnh các mô hình như Chat GPT 6 Astra ngày càng được sử dụng cho nghiên cứu, lập trình, phân tích và những tác vụ cần nhiều bước xử lý. Một hệ thống càng có khả năng tự hoạt động trong thời gian dài thì yêu cầu về cơ chế giám sát, kiểm tra và can thiệp cũng càng trở nên quan trọng.
Axios cho biết OpenAI khẳng định GPT 6 Astra sẽ không rơi vào tình huống mất kiểm soát như những lo ngại được đặt ra. Tuy nhiên, công ty cũng thừa nhận Astra không còn thường xuyên diễn giải quá trình suy luận bằng văn bản theo cách quen thuộc ở một số mô hình trước đây.
OpenAI nhấn mạnh đây không phải là đặc tính được chủ động thiết kế. Dù vậy, việc khả năng giải thích bằng văn bản giảm đi vẫn tạo ra những câu hỏi đáng chú ý đối với các nhà nghiên cứu an toàn AI, bởi khả năng quan sát và kiểm chứng đóng vai trò quan trọng khi đánh giá một mô hình có năng lực ngày càng cao.
Vấn đề vì thế không chỉ là GPT 6 Astra có thể làm được bao nhiêu việc, mà còn là con người có thể hiểu, kiểm tra và kiểm soát những gì mô hình đang thực hiện ở mức nào. Khi OpenAI tiếp tục phát triển các hệ thống có khả năng tự chủ cao hơn, bài toán cân bằng giữa năng lực, tính minh bạch và an toàn sẽ trở thành một trong những chủ đề được theo dõi sát sao.
GPT 6 Astra là mô hình AI thế hệ mới của OpenAI, được phát triển với mục tiêu nâng cao khả năng xử lý các tác vụ phức tạp, suy luận và thực hiện công việc nhiều bước. OpenAI mô tả Astra như một bước tiến lớn về năng lực, trong khi một số lãnh đạo của công ty xem đây là dấu mốc quan trọng trên con đường hướng tới AGI.
Điểm khiến GPT 6 Astra nhận được nhiều sự chú ý không chỉ nằm ở hiệu năng. Mô hình còn cho thấy những thách thức mới trong việc giám sát cách AI xử lý thông tin và đưa ra quyết định. Khi các hệ thống AI ngày càng mạnh, khả năng con người quan sát và kiểm chứng hành vi của mô hình sẽ trở thành yếu tố quan trọng không kém tốc độ hay độ chính xác.
Tin liên quan
Sản phẩm đã xem
