Podcast: Hóa ra khái niệm AGI là gì, đến giờ các lãnh đạo trong ngành vẫn còn chưa thống nhất

Doanh nghiệp gần bạn nhất

được xác nhận bởi itcctv

Podcast: Hóa ra khái niệm AGI là gì, đến giờ các lãnh đạo trong ngành vẫn còn chưa thống nhất
Hình ảnh rao vặt

Podcast: Hóa ra khái niệm AGI là gì, đến giờ các lãnh đạo trong ngành vẫn còn chưa thống nhất



Trên bìa mặt trước của kế hoạch kinh doanh ban đầu cho DeepMind, phòng thí nghiệm AI mà họ thành lập vào năm 2010, Ngài Demis Hassabis, Mustafa Suleyman và Shane Legg đã viết một câu duy nhất: Xây dựng trí tuệ nhân tạo tổng quát (AGI) đầu tiên trên thế giới.


Demis Hassabis - Google DeepMind

Quan điểm của họ có vẻ vẫn đúng cho đến tận ngày nay. Các công nghệ AI truyền thống quá "hạn hẹp", có thể hoạt động xuất sắc nhưng chỉ sau khi con người vất vả huấn luyện chúng bằng những bộ dữ liệu khổng lồ. Điều này khiến AI trở nên tuyệt vời trong các nhiệm vụ như phân tích bảng tính hoặc thậm chí chơi cờ vua. Nhưng trí tuệ nhân tạo “tổng quát”, hay còn gọi là AGI, có tiềm năng vượt xa hơn nữa.

15 năm sau, các CEO công nghệ thống nhất rằng AGI là bước đột phá lớn tiếp theo và đang ca ngợi hết lời về tiềm năng của nó. Trong số đó có CEO OpenAI, Sam Altman, người đã viết rằng AGI có thể "giúp chúng ta nâng cao nhân loại bằng cách tăng cường sự thịnh vượng, thúc đẩy nền kinh tế toàn cầu và hỗ trợ khám phá những kiến thức khoa học mới làm thay đổi giới hạn của khả năng".


Hassabis, người đá sáng lập DeepMind, lab sau này đã hợp nhất với Google để trở thành một trong những phòng thí nghiệm AI có ảnh hưởng nhất thế giới, đã từng nói rằng AGI có tiềm năng giải quyết các vấn đề toàn cầu như phát triển thuốc chữa bệnh, giúp mọi người sống khỏe mạnh và lâu hơn hoặc tìm kiếm các nguồn năng lượng mới.


Dario Amodei - Anthropic

Dario Amodei, CEO của Anthropic, thích sử dụng cụm từ “AI mạnh mẽ” để mô tả AGI, đã nói rằng nó có lẽ sẽ "thông minh hơn một nhà vô địch Nobel trong lĩnh vực của họ" và mô tả nó là một "quốc gia thiên tài trong một trung tâm dữ liệu".

Nhà khoa học AI nổi tiếng của Meta, giáo sư Yann LeCun, người được coi là một trong những “cha đẻ” của công nghệ này, cũng không thích thuật ngữ AGI vì cho rằng trí thông minh của con người thực sự không tổng quát như vậy. "Chúng ta đang phát triển công nghệ rất chuyên biệt... và chắc chắn, máy tính điện toán có thể giải quyết một số nhiệm vụ tốt hơn chúng ta," ông nói gần đây.

Thay vào đó, để mô tả các cỗ máy vượt qua trí thông minh của con người, ông thích sử dụng thuật ngữ siêu trí tuệ nhân tạo (ASI - Artificial Super Intelligence). Bất kể thuật ngữ nào cuối cùng được chấp nhận, một công nghệ từng chỉ là khoa học viễn tưởng ngày càng được thảo luận như một kịch bản tương lai nghiêm túc.


Mustafa Suleyman - Microsoft


Nhưng giống hệt như việc các lãnh đạo ở Silicon Valley không thể thống nhất về việc định nghĩa AGI hoặc ASI, cũng có sự thiếu đồng thuận về công nghệ sẽ trông như thế nào nếu và khi nó xuất hiện.

DeepMind đã tạo ra thuật ngữ này để mô tả những gì họ gọi là "AI ít nhất có khả năng tương đương một người trưởng thành, lành nghề trong hầu hết các nhiệm vụ nhận thức". Nhưng định nghĩa này lại đặt ra nhiều câu hỏi hơn: làm thế nào để xác định một “người trưởng thành lành nghề”? Làm thế nào chúng ta biết khi nào mình đã đạt đến “hầu hết” các nhiệm vụ nhận thức? Bản thân những nhiệm vụ đó là gì?


Tính chất vô hình của AGI đã cho phép nó trở thành thứ khác nhau trong mắt nhiều người. "Với một số người, đó là một mục tiêu khoa học. Với một số người khác, đó là một tôn giáo. Và với không ít người, đó là một thuật ngữ tiếp thị," François Chollet, một cựu kỹ sư phần mềm tại Google nói.

Thành ra, có rất nhiều ước tính khác nhau về thời điểm nó có thể xuất hiện. Elon Musk dự đoán công nghệ AI thông minh hơn con người sẽ ra đời vào cuối năm nay. Amodei của Anthropic dự đoán nó sẽ xuất hiện vào năm 2026. Altman hứa hẹn rằng AGI sẽ xuất hiện trong nhiệm kỳ tổng thống hiện tại của Donald Trump.


Sam Altman - OpenAI


Sự mơ hồ này không ngăn cản chính phủ và doanh nghiệp "cảm nhận được" AGI, theo cách nói của Silicon Valley. OpenAI và Anthropic đã gom được hàng tỷ USD từ các nhà đầu tư trong nỗ lực xây dựng công nghệ này, và tham vọng của họ được thúc đẩy bởi kế hoạch của Nhà Trắng trì hoãn việc điều chỉnh AI để vượt lên trước Trung Quốc. OpenAI cũng có sự ủng hộ của Trump khi nói đến đầu tư vào trung tâm dữ liệu ở cả Mỹ lẫn Trung Đông. Từ khóa AGI cũng được đề cập nhiều hơn 53% trong các cuộc họp công bố báo cáo tài chính của OpenAI trong quý I năm 2025 so với cùng kỳ năm trước.

Tuy nhiên, việc định nghĩa công nghệ là điều cần thiết để hiểu những hậu quả của việc xây dựng AGI và liệu nó có nên là ưu tiên hay không.


François Chollet - Google

Rất nhiều thứ đang đặt cược vào sự xuất hiện của nó đối với các nhà hoạch định chính sách và các nhà đầu tư. EU chưa loại trừ khả năng tạm dừng dự thảo Đạo luật AI mang tính bước ngoặt, một phần vì sợ rằng điều đó sẽ cản trở sự phát triển của các mô hình "tiên phong" về AI. Và các quốc gia như Vương quốc Anh và Viện An ninh AI của nước này đang cố gắng tìm hiểu AGI là gì để có thể lập kế hoạch nghiên cứu chính sách và an toàn phù hợp.

Ngay cả trong định nghĩa lỏng lẻo nhất, lời hứa hẹn của AGI sẽ đẩy nhanh tốc độ xử lý máy tính một cách đáng kể - nhưng đi kèm với chi phí tài chính và môi trường lớn. Và nếu các kỹ sư thực sự quản lý để xây dựng công nghệ này, chúng ta có thể đảm bảo rằng nó được sử dụng một cách công bằng và bình đẳng như thế nào?


Câu trả lời cho câu hỏi AGI là gì phụ thuộc vào việc câu hỏi này đặt ra cho ai.

Đối với OpenAI, định nghĩa AGI của họ gắn liền với việc liệu công nghệ có thể được sử dụng để tạo ra lợi ích kinh tế hay không. "Chúng tôi đang cố gắng phát triển một hệ thống tự động cao có thể vượt trội hơn con người trong nhiều công việc có giá trị về mặt kinh tế," Mark Chen, giám đốc nghiên cứu của công ty cho biết. Một đặc điểm chính, theo Chen, là tính tổng quát, khả năng thực hiện các tác vụ trên nhiều lĩnh vực khác nhau."Chúng nên khá tự động và không cần phải được 'dìu dắt' nhiều để hoàn thành nhiệm vụ," anh bổ sung.


Mark Chen - OpenAI

AGI sẽ có sức mạnh để biến “những điều trong đầu bạn trở thành hiện thực rất nhanh chóng”, Chen nói, giải thích rằng nó có tiềm năng giúp mọi người tạo ra không chỉ hình ảnh hoặc văn bản, mà còn toàn bộ ứng dụng.

Nhưng những người phê bình cho rằng định nghĩa này chưa mô tả được một hệ thống thông minh thực sự. "Đó chỉ là khả năng tự động hóa, điều mà chúng ta đã làm trong nhiều thập kỷ," Chollet, cựu kỹ sư của Google nói.

DeepMind thì có cách tiếp cận khác. “Tôi tin rằng hiệu suất điển hình của con người là cách tự nhiên, thiết thực và hữu ích nhất để định nghĩa các yêu cầu tối thiểu cho một AI được coi là AGI,” Legg của DeepMind nói. Nhà nghiên cứu này chính là người đã phổ biến thuật ngữ trí tuệ nhân tạo tổng quát vào đầu những năm 2000, thời điểm chưa nhiều người tin vào thứ công nghệ này. “Một vấn đề lớn với nhiều định nghĩa về AGI là chúng không chỉ rõ ràng những gì một hệ thống AI cần có khả năng làm để đủ điều kiện là AGI.”


Shane Legg - Google DeepMind

Định nghĩa của DeepMind, AGI tương đương với “kỹ năng của người trưởng thành lành nghề trong hầu hết các nhiệm vụ nhận thức” khiến khái niệm này trở nên “khá rõ ràng”, Legg nói thêm. “Hãy tự hỏi nếu một tác vụ nào đó là một việc mà mọi người thường làm được. Nếu có, thì AI phải có khả năng làm được để hệ thống được coi là AGI.”

Ví dụ, khả năng chơi cờ vây, một trò chơi chiến thuật tuổi đời hàng ngàn năm của Trung Quốc, ở trình độ các kiện tướng chuyên nghiệp không phải là điều mà hầu hết mọi người có thể làm được, vì vậy nó không phải là yêu cầu đối với AI để được coi là AGI, Legg nói. Tuy nhiên, hầu hết mọi người đều có thể chơi ở mức nghiệp dư, vì vậy bất kỳ hệ thống nào tuyên bố là AGI cũng phải có khả năng học cách làm điều đó.


DeepMind đã cố gắng định nghĩa công nghệ bằng cách thiết lập năm cấp độ khả năng AI. Các mô hình AI như ChatGPT của OpenAI, Gemini của Google và Llama của Meta sẽ chỉ đạt đến cấp độ "AGI mới nổi" theo phân loại chung.

Tính đến nay, chưa có mô hình tổng quát nào đạt đến cấp độ hai, vốn sẽ vượt qua ít nhất 50% người trưởng thành lành nghề, Allan Dafoe, giám đốc an toàn và quản trị tại Google DeepMind cho biết. AI cấp độ ba sẽ yêu cầu mô hình phải giỏi như ít nhất 90% người trưởng thành lành nghề, trong khi cấp độ bốn sẽ yêu cầu 99% người trưởng thành lành nghề. Trí tuệ nhân tạo siêu việt thì sẽ phải vượt trội hơn 100% trí tuệ của toàn bộ dân số nhân loại.


Allan Dafoe - Google DeepMind

Nếu quá ít người đồng tình về đích đến, thì cũng chẳng ngạc nhiên khi giờ đang có nhiều lý thuyết về con đường tốt nhất để đạt được AGI. OpenAI và Anthropic lập luận rằng các mô hình ngôn ngữ AI mà họ đang xây dựng là con đường tốt nhất. Mô hình hiện tại do các công ty này tiên phong cho rằng việc bạn đổ bao nhiêu dữ liệu và sức mạnh tính toán vào mô hình sẽ khiến nó "thông minh" hơn.

OpenAI gần đây đã tiết lộ mô hình "suy luận” o3 mới của mình, thứ mà công ty nói là giải quyết các tác vụ phức tạp hơn trong lập trình, toán học và nhận dạng hình ảnh, bằng cách chia nhỏ các vấn đề thành các bước. Theo Chen, bước tiếp theo để tiến tới AGI vượt ra ngoài các mô hình lý luận của công ty sẽ là tạo ra các tác nhân AI có thể thực hiện hành động độc lập và đáng tin cậy. Sau đó, các công cụ AI có thể sản xuất đổi mới và cuối cùng hoạt động như các tổ chức bắt chước các cấu trúc lớn của con người làm việc cùng nhau, anh nói.



Một đặc điểm quan trọng khác sẽ là khả năng tự cải thiện khả năng của thuật toán. “Nó là một hệ thống không chỉ thực hiện ở biên giới kiến thức của bạn mà còn rất thành thạo trong việc cải thiện bản thân. Nó có thể viết mã của riêng nó và tạo ra phiên bản tiếp theo của chính nó, khiến nó trở nên tốt hơn,” Chen của OpenAI nói thêm.

Nhưng các nhà phê bình đã chỉ ra vô số những điểm yếu của các mô hình ngôn ngữ. Chúng vẫn còn rất không chính xác, bịa đặt mọi thứ và thực sự không “suy nghĩ” mà chỉ dự đoán từ tiếp theo trong một câu, dựa trên xác suất thống kê. Một bài nghiên cứu đã tạo ra những cuộc tranh luận sôi nổi từ các nhà nghiên cứu tại Apple cho thấy rằng thế hệ hiện tại của các mô hình lý luận chỉ tạo ra ảo ảnh về tư duy và “chứng kiến sự sụp đổ hoàn toàn về độ chính xác” khi đối mặt với các tác vụ phức tạp.


Yann LeCun - Meta

Một số nhà công nghệ cũng nói rằng ngôn ngữ đơn lẻ không thể nắm bắt được tất cả các chiều của trí thông minh và đang theo đuổi các mô hình rộng hơn để kết hợp nhiều chiều hơn. Lấy ví dụ, giáo sư LeCun của Meta đang xây dựng một thứ được gọi là mô hình thế giới, cố gắng bao hàm các quy luật vật lý của thế giới chúng ta bằng cách học từ video và dữ liệu robot thay vì ngôn ngữ. Ông lập luận rằng chúng ta cần hiểu biết toàn diện hơn về thế giới để tạo ra trí thông minh máy móc vượt trội.


Nhưng có những thách thức phía trước. Đầu tiên, ngành AI đang cạn kiệt dữ liệu, sau khi đã thu thập hầu hết nó từ internet miễn phí để đào tạo AI. Bây giờ họ đang tìm kiếm các thỏa thuận cấp phép dữ liệu với các nhà xuất bản. Dafoe cho rằng dữ liệu phái sinh, hay dữ liệu tổng hợp, trong đó mô hình AI tạo ra dữ liệu huấn luyện, có thể là một giải pháp đầy hứa hẹn. Những đột phá khác, chẳng hạn như mô hình AI có bộ nhớ tốt hơn và hiểu biết về thế giới vật lý, có lẽ bằng cách học hỏi từ robot, cũng có thể đóng vai trò trong việc đạt được các hệ thống thông minh hơn.

Thiếu đi lộ trình chung là lý do tại sao một số nhà lãnh đạo công nghệ bắt đầu hạ thấp kỳ vọng về thời điểm và chất lượng khi AGI xuất hiện. “Tôi đoán chúng ta sẽ đạt được AGI sớm hơn nhiều so với hầu hết mọi người trên thế giới nghĩ, nhưng tác động của nó sẽ ít quan trọng hơn,” Altman nói vào tháng 12/2024.

Anh nói rằng mục tiêu tiếp theo của anh là chuẩn bị cho OpenAI cho những gì sẽ diễn ra tiếp theo, mà anh định nghĩa là siêu trí thông minh. “Chúng tôi yêu thích các sản phẩm hiện tại của mình, nhưng chúng tôi ở đây và làm việc để hướng tới một tương lai huy hoàng,” anh viết.


Nick Frosst - Cohere

Đối với những người chỉ trích AGI, điều này thay đổi câu chuyện làm lộ những động cơ thực sự của những người đang thúc đẩy nó. Bàn luận về AGI là “chủ yếu là bong bóng với đầy những người đi gọi vốn từ ý tưởng đó”, Nick Frosst, đồng sáng lập Cohere nói. “Nếu bạn nghe ai đó nói rằng AGI sắp xảy ra và họ đã nói điều đó trong nhiều năm và dường như có động cơ tài chính để họ nói ra điều đó… tôi nghĩ bạn nên đặt câu hỏi tại sao đến giờ họ vẫn chưa làm được.”

Thuật ngữ này dường như đang thu hút các nhà đầu tư. Vào tháng 3, OpenAI đã huy động được một số tiền khổng lồ là 40 tỷ USD, với định giá 300 tỷ USD giá trị vốn hóa. Điều đó là bởi vì với AGI, các nhà đầu tư không chỉ đầu tư vào hy vọng kiếm được hàng trăm triệu đô la doanh thu mà còn vào triển vọng thay đổi cách chúng ta tạo ra GDP, điều này có thể tạo ra kết quả trị giá hàng nghìn tỷ USD.

Kết quả là, theo ông Moyroud, “bạn có những người sẵn sàng chấp nhận rủi ro cho quỹ đạo nhắm tới AGI như vậy”.


Lịch sử phong phú với những ví dụ về mọi người cố gắng thổi sự sống vào các vật thể và bán chúng như siêu nhân.

Nổi tiếng nhất có lẽ là câu chuyện về Mechanical Turk, một cỗ máy tự động chơi cờ vua ma thuật, được sáng tạo và lắp ráp vào năm 1770 cho Nữ hoàng Maria Theresa của nước Áo. Nó đã chơi và thắng trước những đối thủ như Napoleon Bonaparte và Benjamin Franklin. Nhưng trên thực tế, cỗ máy đó có đủ không gian để một người con người ẩn mình bên trong và điều khiển nó. Một trò lừa không hơn không kém.



Ngày nay AI mang đến những ảo ảnh tương tự. Có ngày càng nhiều người tìm đến chatbot AI để kết bạn, bầu bạn và thậm chí là trị liệu. Nhưng màn trình diễn này chỉ thuyết phục vì lượng lớn lao động của con người, từ gắn nhãn tập dữ liệu đến xếp hạng câu trả lời của chatbot là những quá trình cần thiết để khiến chatbot AI có vẻ thông minh hơn, hoặc có tri giác, so với thực tế.

Một số người đặt câu hỏi liệu trí tuệ nhân tạo tổng quát có phải là điều chúng ta nên hướng tới hay không. Chúng ta vẫn chưa nắm bắt được đầy đủ khái niệm về trí thông minh trong sinh học, tâm lý học hay thậm chí cả giáo dục, theo lời bà Margaret Mitchell, trưởng ban đạo đức khoa học tại startup AI nguồn mở Hugging Face. Bà là đồng chủ biên một nghiên cứu lập luận rằng AGI không nên được coi là ngôi sao dẫn đường cho nhân loại:

“Trí thông minh dưới dạng một khái niệm là thứ mơ hồ, dễ gây ra vấn đề và việc hướng tới nó là một điều hơi rủi ro, vì nó tạo ra một lớp vỏ bọc tích cực, tốt đẹp. Khái niệm ấy giúp tạo ra cho chúng ta một sự che đậy về điều gì đó tốt đẹp, trong khi thực tế nó hoàn toàn không phải là một thứ cụ thể, mà thay vào đó cung cấp một câu chuyện về sự phát triển, bất kể công nghệ nào chúng ta muốn hoàn thiện cũng như phát triển.”


Margaret Mitchell - Hugging Face

Các chuyên gia nói rằng động lực phát triển một loại công nghệ nhất định chỉ tập trung quyền lực và sự giàu có vào tay một số ít người, đồng thời lợi dụng những người sáng tạo như nghệ sĩ và người sáng tạo nội dung, những tác phẩm trí tuệ của họ kết thúc trong các bộ dữ liệu AI khổng lồ mà không được phép hoặc bồi thường.

Chạy đua phát triển AGI cũng đi kèm với dấu chân môi trường lớn khi các mô hình AI ngày càng mạnh mẽ đòi hỏi hàng tấn nước và năng lượng để đào tạo và chạy trên các trung tâm dữ liệu khổng lồ. Công nghệ này cũng đang được sử dụng để thúc đẩy sản xuất trong các lĩnh vực gây ô nhiễm cao như dầu khí.

AGI cũng đặt ra những câu hỏi về đạo đức và những tác hại tiềm ẩn cho xã hội. Trong cuộc đua xây dựng công nghệ và hưởng lợi từ lợi ích kinh tế của nó, các nhà phê bình nói rằng chính phủ đang bỏ qua quy định sẽ cung cấp các biện pháp bảo vệ cơ bản khỏi các công nghệ AI, chẳng hạn như thiên vị thuật toán và phân biệt đối xử.


Ngoài ra còn có một số ít những người có ảnh hưởng, bao gồm cả các nhà nghiên cứu được coi là những người tiên phong của trí tuệ nhân tạo hiện đại, như hai giáo sư Yoshua Bengio và Geoffrey Hinton, cảnh báo về những kết quả cực đoan hơn. Họ lập luận rằng, nếu không được kiểm soát, AGI có thể dẫn đến sự tuyệt chủng của loài người.

Một trong những tác hại của câu chuyện làm "AGI bằng mọi giá" là nó có thể khuếch đại khoa học kém, Mitchell nói. Các ngành khoa học khác đã được thiết lập tốt hơn như hóa học và vật lý có các phương pháp khoa học cho phép kiểm tra nghiêm ngặt.

Nhưng khoa học máy tính là một lĩnh vực mới hơn nhiều và tập trung nhiều hơn vào kỹ thuật, với xu hướng đưa ra những tuyên bố rộng lớn, tuyệt vời mà thực tế không được hỗ trợ bởi những gì nghiên cứu làm.


Geoffrey Hinton - Đại học Toronto, Canada

Các nhà hoạch định chính sách và các giám đốc điều hành doanh nghiệp có trách nhiệm suy nghĩ về những rủi ro liên quan đến các công nghệ mạnh mẽ, Frosst của Cohere nói. "Nếu bạn là một học giả, hãy tự do bàn luận. Nhưng nếu bạn là một nhà hoạch định chính sách hoặc một giám đốc điều hành kinh doanh, bạn phải suy nghĩ về những điều thực sự."

Tuy nhiên, việc tạo ra những cách ý nghĩa để đo lường và đánh giá các công nghệ AI trong thế giới thực bị cản trở bởi sự ám ảnh của ngành với "những tuyên bố thô sơ về 'trí tuệ tổng quát'", một số nhà nghiên cứu từ cả học viện và thậm chí từ các phòng thí nghiệm AI lớn như Google DeepMind, Anthropic, Microsoft và Hugging Face đã từng lập luận.

Tổng hợp: 1, 2, 3, 4, 5
Nguồn:tinhte.vn/thread/podcast-hoa-ra-khai-niem-agi-la-gi-den-gio-cac-lanh-dao-trong-nganh-van-con-chua-thong-nhat.4029350/
💬 bình luận

Bình luận

Trở thành viên của itcctv — Đăng ký
Thủ thuật tin học văn phòng Thủ thuật Word Thủ thuật Excel
Cuộn