OpenAI úp mở về Singularity - liệu là chiêu trò marketing hay thực sự sắp tới thời điểm nhân loại được chứng kiến sự ra đời của trí tuệ siêu việt.

Joey bốc vác:

Như tao đã nói, đó là tư duy của AI cũ khi cái mục tiêu huấn luyện rất rõ ràng.
Còn bây giờ với mục tiêu nâng cao trí thông minh, con người chưa tìm được cách huấn luyện đúng đắn và đang tranh cãi.
Cách con người đang làm là cho AI dự đoán từ tiếp theo.
Singularity là thời điểm AI được cung cấp thông tin về bản thân nó, rồi tự điều chỉnh, tự huấn luyện, và kết quả là thông minh hơn.
Ví dụ: AI nhìn cấu trúc của nó, và output ra: "chỗ này bọn human chúng mày thiết kế ngu lắm, để tao sửa lại thế này thế này, rồi tao đi lấy dữ liệu để tao học hỏi thêm."

Bấm để mở rộng...

Joey bốc vác:

Như tao đã nói, đó là tư duy của AI cũ khi cái mục tiêu huấn luyện rất rõ ràng.
Còn bây giờ với mục tiêu nâng cao trí thông minh, con người chưa tìm được cách huấn luyện đúng đắn và đang tranh cãi.
Cách con người đang làm là cho AI dự đoán từ tiếp theo.
Singularity là thời điểm AI được cung cấp thông tin về bản thân nó, rồi tự điều chỉnh, tự huấn luyện, và kết quả là thông minh hơn.
Ví dụ: AI nhìn cấu trúc của nó, và output ra: "chỗ này bọn human chúng mày thiết kế ngu lắm, để tao sửa lại thế này thế này, rồi tao đi lấy dữ liệu để tao học hỏi thêm."

Bấm để mở rộng...

Joey bốc vác:

Lão này mà cây đa cây đề khỉ gì.
Bất cứ công nghệ mới nào luôn tồn tại nhiều hoài nghi quanh nó. Anti AI hiện tại điển hình là lão Gary Marcus.
Hồi trước Hinton còn nghi ngờ về LLMs, dạo này cũng quay xe nói LLMs thực sự hiểu khi đưa ra được câu trả lời, còn cảnh báo về hiểm họa của AI nếu không phát triển cẩn thận.
ChatGPT ngày sơ khai mấy con GPT 3 cùi bắp thì các công ty không biết dùng làm gì là đúng rồi.
Thậm chí bây giờ gpt4o o1 o3 các công ty cũng không biết dùng, nhưng những bộ óc tinh hoa sẽ biết dùng vào đâu.

Bấm để mở rộng...

Hssh:

Ai giờ iq 90 rồi
vài năm nữa nó lên 100 là 50% dân số tg ăn cứt hết
càng lên cao càng khó vì có cái đồ thị kiểu cong thẳng lên
như t code nhờ ai giảm 2/3 time cmnr

Bấm để mở rộng...

Joey bốc vác:

Cái RL hồi cờ vây đó khác.
Cờ vây là mày có mục tiêu rất rõ ràng, mục tiêu đó được cài đặt bởi con người: chiếm hết cờ của đối phương.
Bởi vậy cái RL cũ mới hoạt động dễ dàng.
Còn về trí thông minh, con người chưa biết cách đặt ra mục tiêu để AI cải thiện trí thông minh. Cách huấn luyện bây giờ chỉ là dự đoán cụm từ tiếp theo trong những câu văn được tạo ra bởi con người.

Câu hỏi quan trọng: với một mô hình X, thì nên đưa dữ liệu gì cho X để X được cải thiện.
Con người chưa trả lời được câu hỏi đó, Singularity xảy ra khi mô hình X tự xác định được nó cần học thêm gì để cải thiện chính nó, hoặc cần thay đổi gì trong cách chính nó được huấn luyện.

Bấm để mở rộng...

aidokhongphailatoi:

Ủa cái này cũng là dữ liệu +output=> rule
R dùng rule +dữ liệu => rule tiếp
Là kiểu AI truyền thống mà
Tau hay dùng GPT tự cho nó là 1 đối tượng cụ thể có các thuộc tính và phương thức sau đó cho nó tự nhận xét hoặc yêu cầu nó phương thức gì đó ,nó vẫn làm đc

Bấm để mở rộng...

Joey bốc vác:

AI với một trí tuệ siêu việt nhưng sẽ không thể thích nghi được với môi trường ở tộc Annam.
Vì môi trường đó không thể hiểu bằng logic.
Giống như con người khi đi qua con chó không đụng chạm gì tự dưng bị nó chồm lên đuổi theo vậy.

Bấm để mở rộng...

Cukkoo:

Cũng khó để AI sao chép phương thức tự học như não người, bởi con người cũng đủ các loại người, mỗi thằng một đầu óc, một kiểu tư duy khác nhau chứ ko có mô hình thống nhất. Thằng thích học toán thì chuyên tâm tìm hiểu về toán hơn những thứ khác, có thằng thích âm nhạc, thằng thích đá phò... Cái khác biệt cơ bản nhất giữa AI và não người là các hoạt động ngoài chi phối bởi trí thông minh còn chi phối bởi cảm xúc cá nhân.

Bấm để mở rộng...

Joey bốc vác:

Thế này nhé.
Cờ vây, là mày biết được kết quả một ván cờ như thế nào.
Nên mày có thể có tín hiệu rõ ràng để điều chỉnh cái model.
Muốn tự cải thiện, thì cứ tạo ra ván cờ, rồi đánh với chính nó, thắng thua rõ ràng.

Còn về trí thông minh theo cách LLMs hiện tại đang hoạt động.
Muốn tự cải thiện, tạo ra input và output.
Nhưng không có một metric nào để đánh giá chất lượng input và output cả.
Chỉ có cách để chính con AI đánh giá chất lượng của input và output đó.
Nếu AI thực hiện cái quá trình đó mà kết quả trí thông minh được tăng lên một cách nhanh chóng thì là Singularity.
Mày hiểu sự khác biệt không?

Bấm để mở rộng...

Cukkoo:

Cũng khó để AI sao chép phương thức tự học như não người, bởi con người cũng đủ các loại người, mỗi thằng một đầu óc, một kiểu tư duy khác nhau chứ ko có mô hình thống nhất. Thằng thích học toán thì chuyên tâm tìm hiểu về toán hơn những thứ khác, có thằng thích âm nhạc, thằng thích đá phò... Cái khác biệt cơ bản nhất giữa AI và não người là các hoạt động ngoài chi phối bởi trí thông minh còn chi phối bởi cảm xúc cá nhân.

Bấm để mở rộng...

Simulation and assimilation of the digital human brain - Nature Computational Science

The Digital Brain platform is capable of simulating spiking neuronal networks at the neuronal scale of the human brain. The platform is used to reproduce blood-oxygen-level-dependent signals in both the resting state and action, thereby predicting the visual evaluation scores.

www.nature.com

Chinese scientists create robot with brain made from human stem cells

Researchers have developed brain-on-chip technology to train the robot to perform tasks such as gripping objects.

www.scmp.com

Joey bốc vác:

Thế này nhé.
Cờ vây, là mày biết được kết quả một ván cờ như thế nào.
Nên mày có thể có tín hiệu rõ ràng để điều chỉnh cái model.
Muốn tự cải thiện, thì cứ tạo ra ván cờ, rồi đánh với chính nó, thắng thua rõ ràng.

Còn về trí thông minh theo cách LLMs hiện tại đang hoạt động.
Muốn tự cải thiện, tạo ra input và output.
Nhưng không có một metric nào để đánh giá chất lượng input và output cả.
Chỉ có cách để chính con AI đánh giá chất lượng của input và output đó.
Nếu AI thực hiện cái quá trình đó mà kết quả trí thông minh được tăng lên một cách nhanh chóng thì là Singularity.
Mày hiểu sự khác biệt không?

Bấm để mở rộng...

aidokhongphailatoi:

Kết quả đó là do con ng đặt ra mà đúng ko một cái máy ko thể hiểu rõ bản chất vấn đề như con người được ,nó ko thể biết kết quả xấu hay tốt là do con người đưa nó cái output thế này là thông minh này thế này là ok mày cứ tiếp tục train thế này
Nó vẫn giữ đc cái output + dũ liệu => rule
Khi nào mà ko cần con người xác định rằng cái này là tốt là xấu ,mày tự đoán tốt hay xấu đi và tỉ lệ nó đoán đúng lên đến 80% thì nó mới có thể là có trí thông minh

Bấm để mở rộng...

volumedead:

Trí tuệ cẹc gì hỏi cái gì cũng đéo biết, toàn tổng hợp lại cái có sẵn

Bấm để mở rộng...

Joey bốc vác:

Rồi mày lấy cái gì để đo?
Lấy mấy bài test IQ à để nói lại với AI à? Nó overfit phát một.
Không như cờ vây nó có thể tự tạo ra thế cờ ngẫu nhiên và có kết quả sau cùng rõ ràng.

Bấm để mở rộng...

vesper999:

Mày đi bốc vác phần mềm hay sao mà rành vậy mậy

Bấm để mở rộng...

nguoi_gialai:

Tin đéo gì mấy thằng startup.
Khi nào cây đa cây đề trong ngành phát biểu thì mới tin.

Thằng nào thích tiếng nói người trong cuộc có thể nghe cái talk này.


Lão Peter Welinder là VP Product của OpenAI.
Có mấy ý chính.
1. Mấy anh OpenAI là đu từ lúc mới ra RL
2. Đã từng mang con chatGPT đi tới giới thiệu cho hơn 100 công ty và không ai biết dùng nó làm gì.

Bấm để mở rộng...

aidokhongphailatoi:

@LQDuy @sebastiannguyen 2 tụi mày có ý kiến gì ko

Bấm để mở rộng...

sebastiannguyen:

AI không thể thay thế con người, thứ AI thiếu là tâm hồn, dù làm ra sản phẩm tinh vi cỡ nào mà không có hồn cũng vứt, đúng không em @LQDuy2 ?

Bấm để mở rộng...

Hssh:

thứ AI thiếu là cái lồn
khí nòa cn lồn nhân bản vô tính phát triển rồi nc tiếp

Bấm để mở rộng...

Hssh:

thứ AI thiếu là cái lồn
khí nòa cn lồn nhân bản vô tính phát triển rồi nc tiếp

Bấm để mở rộng...

Kod112:

Sao hung vậy Mèo?

Bấm để mở rộng...