BÀI 3. MÔ HÌNH NGÔN NGỮ LỚN

Sau bài học này, em sẽ:

 - Trình bày được khái niệm mô hình ngôn ngữ lớn, mục đích sử dụng và kể tên một số mô hình ngôn ngữ lớn phổ biến.

 - Sử dụng được mô hình ngôn ngữ lớn để tạo ảnh từ văn bản.

 - Nêu được ví dụ về cách chia văn bản thành các token.

 - Giải thích được cách mô hình ngôn ngữ lớn học và tạo văn bản: dự đoán token tiếp theo trong một chuỗi văn bản.

Trong giờ học về Trí tuệ nhân tạo, thầy giáo giới thiệu về mô hình ngôn ngữ lớn – một loại AI có khả năng hiểu và tạo văn bản bằng cách học từ hàng triệu tài liệu như sách, báo, hội thoại,... Thầy giáo đã chia sẻ một số mô hình phổ biến hiện nay như ChatGPT, Gemini, Claude,...

Khi biết mô hình ngôn ngữ lớn có thể tạo hình ảnh từ văn bản, bạn Minh tò mò hỏi: – Thưa thầy, làm sao AI có thể vẽ tranh chỉ bằng một yêu cầu như "Vẽ một lớp học đang học bài dưới tán cây xanh" ạ?

Thầy giáo giải thích: – Câu hỏi rất hay! Đằng sau việc đó là cả một quá trình xử lí phức tạp mà mô hình AI – cụ thể là mô hình ngôn ngữ lớn đã được huấn luyện từ rất nhiều dữ liệu. Không chỉ vậy, AI còn chia nhỏ câu văn thành các phần nhỏ và dựa vào cách các phần đó liên kết với nhau để hiểu ý nghĩa. Nhờ đó, AI mới có thể tạo ra nội dung phù hợp với yêu cầu.

Qua tình huống trên:

1. Em có biết mô hình ngôn ngữ lớn được dùng để làm gì? Kể tên một số mô hình mà em biết.

2. Hãy mô tả cách em tưởng tượng mô hình tạo ra hình ảnh từ văn bản.

3. Hãy lấy ví dụ về việc chia một câu thành các token và giải thích vì sao việc dự đoán token tiếp theo lại giúp mô hình tạo ra văn bản.

GỢI Ý TRẢ LỜI PHẦN KHỞI ĐỘNG

1. Em có biết mô hình ngôn ngữ lớn được dùng để làm gì? Kể tên một số mô hình mà em biết.

 - Mô hình ngôn ngữ lớn được sử dụng để trả lời câu hỏi, hỗ trợ viết văn bản, dịch thuật, tóm tắt nội dung, đưa ra gợi ý phù hợp với yêu cầu của người dùng, hoặc tạo hình ảnh và âm thanh từ mô tả.

 - Một số mô hình ngôn ngữ lớn phổ biến hiện nay bao gồm ChatGPT, Gemini và Claude.

2. Hãy mô tả cách em tưởng tượng mô hình tạo ra hình ảnh từ văn bản.

 - Khi người dùng nhập một đoạn mô tả, hệ thống sẽ tiếp nhận và phân tích nội dung ngôn ngữ để xác định các từ khoá cùng các chi tiết quan trọng.

 - Sau đó, hệ thống chuyển những thông tin này sang dạng dữ liệu phù hợp để mô hình tạo ảnh có thể xử lí.

 - Cuối cùng, dựa vào quá trình học từ lượng lớn dữ liệu gồm các cặp văn bản – hình ảnh trước đó, mô hình sẽ tạo ra một bức tranh tương ứng với mô tả ngôn ngữ ban đầu.

3. Hãy lấy ví dụ về việc chia một câu thành các token và giải thích vì sao việc dự đoán token tiếp theo lại giúp mô hình tạo ra văn bản.

 - Ví dụ với câu "Mình đang học bài", mô hình có thể chia thành các token là: "Mình", "đang", "học", "bài".

 - Việc dự đoán token tiếp theo dựa trên những token đã có trong chuỗi và lặp lại liên tục quá trình này giúp tạo thành một câu hoặc đoạn văn hoàn chỉnh.

 - Quá trình dự đoán từng phần như vậy giúp mô hình tạo ra văn bản có tính liền mạch và đáp ứng đúng nội dung đầu vào do người dùng cung cấp.

Trong phần Khởi động, thầy giáo đã giới thiệu mô hình ngôn ngữ lớn là một loại AI có khả năng xử lí ngôn ngữ. Các mô hình này được huấn luyện bằng cách học từ một lượng rất lớn văn bản, bao gồm sách, bài viết, hội thoại và nhiều loại tài liệu khác và trong một số hệ thống, chúng có thể được kết hợp với dữ liệu hình ảnh hoặc âm thanh. Qua đó, chúng dần hiểu được cách con người sử dụng ngôn ngữ trong nhiều tình huống khác nhau.

Nhờ quá trình học này, mô hình ngôn ngữ lớn có thể trả lời câu hỏi, hỗ trợ viết văn bản, dịch thuật, tóm tắt nội dung hoặc đưa ra gợi ý phù hợp với yêu cầu của người dùng. Đây là lí do mô hình ngôn ngữ lớn được sử dụng rộng rãi trong học tập, công việc và đời sống hằng ngày.

Một số mô hình ngôn ngữ lớn hiện nay đang được sử dụng phổ biến gồm: ChatGPT, Gemini, Claude. Các mô hình này đều có thể trò chuyện, hỗ trợ viết bài hoặc tạo nội dung theo yêu cầu bằng tiếng Việt và nhiều ngôn ngữ khác.

GHI NHỚ

Mô hình ngôn ngữ lớn (Large Language Model – LLM) là một loại AI được huấn luyện trên lượng lớn dữ liệu văn bản và đôi khi kết hợp với dữ liệu từ các dạng khác như hình ảnh, âm thanh. LLM có khả năng hiểu và tạo ra ngôn ngữ, hỗ trợ con người trong các hoạt động như viết nội dung, trả lời câu hỏi, dịch thuật hoặc tạo hình ảnh, âm thanh từ mô tả.

Trở lại câu hỏi của bạn Minh trong phần Khởi động. Câu hỏi này liên quan đến một trong những khả năng của LLM khi được kết hợp với hệ thống tạo sinh hình ảnh. Khi người dùng nhập một đoạn mô tả bằng lời, LLM sẽ tiếp nhận và phân tích nội dung ngôn ngữ trong đoạn văn. Từ đó, hệ thống sẽ xác định các từ khoá và chi tiết như “lớp học”, “tán cây”, “học bài”, rồi chuyển những thông tin này sang dạng dữ liệu phù hợp để mô hình tạo ảnh xử lí. Kết quả là một bức tranh được tạo ra dựa trên mô tả ngôn ngữ ban đầu.

Để làm được điều này, hệ thống cần được huấn luyện từ trước với một lượng lớn dữ liệu gồm các cặp văn bản – hình ảnh. Quá trình huấn luyện này giúp mô hình học được cách liên kết giữa ngôn ngữ mô tả và các đặc điểm hình ảnh tương ứng.

Khả năng chuyển đổi từ văn bản thành hình ảnh giúp mô hình không chỉ hiểu ngôn ngữ mà còn hỗ trợ con người thể hiện ý tưởng một cách sinh động và trực quan hơn.

GHI NHỚ

Một số LLM có thể kết hợp với hệ thống tạo sinh hình ảnh để biến văn bản mô tả thành hình ảnh. Quá trình này dựa trên việc mô hình phân tích nội dung yêu cầu và sử dụng kiến thức đã được học từ dữ liệu huấn luyện để tạo ra hình ảnh phù hợp.

Sử dụng Gemini để tạo hình ảnh từ văn bản

Hướng dẫn: (Hình ảnh và hướng dẫn thực hành sau đây sử dụng Gemini.)

Bước 1. Truy cập công cụ Gemini.

 Mở trình duyệt và vào trang web: https://gemini.google.com/.

Bước 2. Đăng nhập tài khoản Google.

 Chọn Sign in trên màn hình và nhập tài khoản Google của em (nếu chưa có tài khoản Google thì cần tạo tài khoản bằng cách chọn Create account.)

Bước 3. Nhập yêu cầu.

Ví dụ:

 – Yêu cầu 1: "Tạo một bức tranh về mùa xuân."

 – Yêu cầu 2: "Tạo một bức tranh về mùa xuân có nắng nhẹ, hoa đào nở và cành lộc non, phù hợp để dùng trong hoạt động tuyên truyền của câu lạc bộ Văn học trường Trung học phổ thông."

Để tạo ra hình ảnh hoặc xử lí văn bản, mô hình cần chia nhỏ nội dung đầu vào thành các phần gọi là token. Đây là bước đầu tiên trong quá trình xử lí ngôn ngữ của mô hình AI.

Token là những đơn vị nhỏ trong văn bản, có thể là từ, âm tiết hoặc cụm kí tự. Việc chia văn bản thành các token giúp mô hình dễ dàng phân tích và tính toán.

Ví dụ, với câu "Mình đang học bài", mô hình có thể chia thành các token là: "Mình", "đang", "học", "bài". Trong trường hợp khác, một cụm như "máy tính xách tay" cũng có thể được chia thành các token là: "máy tính", "xách tay".

Việc chia như vậy giúp mô hình nhận dạng và xử lí từng phần của văn bản một cách chi tiết hơn, đặc biệt là khi gặp những từ phức hoặc ít xuất hiện trong dữ liệu.

Sau khi chia văn bản thành token, mô hình sẽ dự đoán token tiếp theo dựa trên những gì đã có. Chẳng hạn, nếu người dùng nhập "Hà Nội là thủ đô của ...", mô hình có thể dự đoán tiếp là "Việt Nam". Quá trình này lặp lại liên tục cho đến khi tạo thành một câu hoặc đoạn văn hoàn chỉnh.

Để làm được việc dự đoán này, mô hình được cung cấp một lượng lớn văn bản để học cách phát hiện các mối liên hệ giữa các phần trong câu. Khi người dùng nhập vào một đoạn văn bản, mô hình sẽ phân tích các token đã có để dự đoán token tiếp theo sao cho phù hợp với ngữ cảnh. Token mới sẽ được thêm vào chuỗi và mô hình tiếp tục dự đoán token kế tiếp cho đến khi hoàn thành câu hoặc đoạn văn.

Việc dự đoán từng phần như vậy giúp mô hình tạo ra văn bản có tính liền mạch và đáp ứng đúng nội dung đầu vào của người dùng.

GHI NHỚ

Token là những đơn vị nhỏ của văn bản mà mô hình AI cần tách ra để xử lí. Mô hình ngôn ngữ lớn học bằng cách dự đoán token tiếp theo trong chuỗi văn bản. Quá trình dự đoán lặp lại giúp hình thành câu hoặc đoạn văn phù hợp với nội dung đầu vào.

Bạn Nam sử dụng một công cụ AI để viết đoạn văn, dịch tiếng Anh và tạo hình ảnh theo mô tả. Công cụ đó phản hồi nhanh, đúng nội dung và phù hợp với yêu cầu.

1. Công cụ AI mà bạn Nam sử dụng thuộc loại mô hình nào và nó hỗ trợ Nam thực hiện những nhiệm vụ gì?

 A. Mô hình nhận dạng hình ảnh giúp Nam vẽ tranh theo mẫu.

 B. Mô hình AI truyền thống hỗ trợ Nam làm phép tính.

 C. Mô hình ngôn ngữ lớn giúp Nam viết văn, dịch ngôn ngữ và tạo hình ảnh từ mô tả.

 D. Mô hình tìm kiếm giúp Nam tra từ điển và thông tin trên mạng.

2. Khi nhập một đoạn văn để công cụ xử lí, AI cần thực hiện thao tác nào với đoạn văn đầu vào?

 A. Phân loại cảm xúc trong đoạn văn.

 B. Tìm kiếm đoạn văn tương tự trên Internet.

 C. Chia văn bản thành các token để phân tích và xử lí.

 D. Tạo hình ảnh minh hoạ từ đoạn văn.

3. Mô hình AI tạo văn bản bằng cách nào trong quá trình tạo nội dung?

 A. Sao chép một đoạn văn đã có sẵn từ nguồn dữ liệu.

 B. Dự đoán token tiếp theo dựa trên các token đã có trong chuỗi văn bản.

 C. Gắn nhãn từng từ trong đoạn văn.

 D. Dịch đoạn văn sang ngôn ngữ khác trước khi xử lí.

GỢI Ý TRẢ LỜI PHẦN LUYỆN TẬP

1. Công cụ AI mà bạn Nam sử dụng thuộc loại mô hình nào và nó hỗ trợ Nam thực hiện những nhiệm vụ gì?

 - Đáp án đúng: C. Mô hình ngôn ngữ lớn giúp Nam viết văn, dịch ngôn ngữ và tạo hình ảnh từ mô tả.

2. Khi nhập một đoạn văn để công cụ xử lí, AI cần thực hiện thao tác nào với đoạn văn đầu vào?

 - Đáp án đúng: C. Chia văn bản thành các token để phân tích và xử lí.

3. Mô hình AI tạo văn bản bằng cách nào trong quá trình tạo nội dung?

 - Đáp án đúng: B. Dự đoán token tiếp theo dựa trên các token đã có trong chuỗi văn bản.

Lớp 10A đang chuẩn bị bài thuyết trình với chủ đề "Mùa hè đáng nhớ". Bạn An sử dụng một công cụ AI để viết nội dung bài thuyết trình, trong khi Bình thử tạo hình ảnh minh hoạ cho phần trình bày. Kết quả mà hai bạn nhận được có sự khác biệt rõ rệt.

1. Em hãy giải thích vì sao mô hình AI có thể viết được đoạn văn theo yêu cầu của An. Mô hình này cần được huấn luyện như thế nào để thực hiện nhiệm vụ đó?

2. Nếu muốn AI tạo được hình ảnh đúng với chủ đề bài thuyết trình, em cần cung cấp loại dữ liệu nào trong quá trình huấn luyện? Nguồn dữ liệu đó có thể đến từ đâu?

3. a) Em hãy nhập hai yêu cầu sau vào một công cụ AI tạo văn bản:
– Viết một đoạn văn nói về mùa hè.
– Viết một đoạn văn khoảng 100 từ kể lại một kỉ niệm đáng nhớ vào mùa hè năm lớp 9, có yếu tố cảm xúc và tình bạn.

b) Em hãy so sánh hai kết quả và nêu nhận xét về mối liên hệ giữa nội dung yêu cầu và kết quả mà AI tạo ra.

4. Em hãy đọc câu sau và chia thành các token đơn giản: "Mùa hè đến, ve kêu râm ran trên vòm cây xanh.". Theo em, nếu chỉ có "Mùa hè đến, ve kêu ..." thì AI sẽ dự đoán từ nào tiếp theo? Vì sao?

GỢI Ý TRẢ LỜI PHẦN VẬN DỤNG

1. Em hãy giải thích vì sao mô hình AI có thể viết được đoạn văn theo yêu cầu của An. Mô hình này cần được huấn luyện như thế nào để thực hiện nhiệm vụ đó?

 - Mô hình AI có thể viết đoạn văn theo yêu cầu vì nó có khả năng xử lí ngôn ngữ và dần hiểu được cách con người sử dụng ngôn ngữ trong nhiều tình huống khác nhau.

 - Để làm được điều này, mô hình cần được huấn luyện bằng cách học từ một lượng rất lớn dữ liệu văn bản, bao gồm sách, bài viết, hội thoại và nhiều loại tài liệu khác.

2. Nếu muốn AI tạo được hình ảnh đúng với chủ đề bài thuyết trình, em cần cung cấp loại dữ liệu nào trong quá trình huấn luyện? Nguồn dữ liệu đó có thể đến từ đâu?

 - Trong quá trình huấn luyện, hệ thống cần được cung cấp một lượng lớn dữ liệu bao gồm các cặp văn bản – hình ảnh.

 - Dữ liệu này giúp mô hình học được cách liên kết giữa ngôn ngữ mô tả và các đặc điểm hình ảnh tương ứng. (Lưu ý: Chúng thường đến từ các tài liệu số hoá trên Internet).

3. So sánh và nhận xét kết quả khi nhập yêu cầu vào công cụ AI:

 - Dựa trên nguyên lí hoạt động, mô hình ngôn ngữ lớn phân tích các từ khoá và nội dung ngôn ngữ trong đoạn văn để đáp ứng yêu cầu. Yêu cầu thứ hai chi tiết hơn (có độ dài cụ thể 100 từ, chủ đề lớp 9, yếu tố cảm xúc), do đó các token đầu vào rõ ràng hơn, giúp mô hình phân tích ngữ cảnh tốt hơn và dự đoán văn bản liền mạch, sát với mong muốn hơn.

4. Chia token và dự đoán từ:

 - Dựa trên khái niệm token là các từ, âm tiết hoặc cụm kí tự, câu có thể được chia thành các token đơn giản như sau: "Mùa", "hè", "đến", ",", "ve", "kêu", "râm", "ran", "trên", "vòm", "cây", "xanh", ".".

 - Nếu chỉ có cụm "Mùa hè đến, ve kêu ...", AI rất có thể sẽ dự đoán token tiếp theo là "râm" (hoặc cụm "râm ran").

 - Lí do là AI dự đoán token tiếp theo sao cho phù hợp với ngữ cảnh dựa trên các token đã có. Mô hình đã được học lượng lớn văn bản để phát hiện mối liên hệ giữa các phần trong câu, nhờ đó nó nhận diện được tiếng "ve kêu" thường đi liền với từ "râm ran" trong dữ liệu ngôn ngữ tiếng Việt.