BÀI 8. HIỂU ĐÚNG VỀ AI TẠO SINH: THIÊN VỊ, HIỂU LẦM VÀ TÁC HẠI VỚI CON NGƯỜI

Sau bài học này, em sẽ:

 - Giải thích được thiên vị (bias) trong AI tạo sinh và nêu ví dụ về hậu quả.

 - Nhận biết được một số hiểu lầm thường gặp về AI.

 - Nêu được vai trò của con người trong việc sử dụng AI đúng cách và công bằng.

Một công ty dùng AI để chọn hồ sơ ứng viên. Sau một thời gian, họ thấy AI thường chọn hồ sơ ứng viên nam giới cho vị trí kĩ thuật, dù có nhiều ứng viên nữ năng lực tương đương. Hoá ra, AI học từ dữ liệu cũ – nơi phần lớn người được tuyển cho vị trí kĩ thuật là nam giới – nên AI đưa ra kết quả bị lệch, chưa công bằng.

1. Vì sao AI lại chọn nhiều hồ sơ nam giới hơn nữ giới? Đây có phải là lỗi kĩ thuật không?

2. Em nghĩ AI có thể sai không? Ai chịu trách nhiệm kiểm tra và điều chỉnh khi AI đưa ra kết quả chưa công bằng?

GỢI Ý TRẢ LỜI PHẦN KHỞI ĐỘNG

1. Vì sao AI lại chọn nhiều hồ sơ nam giới hơn nữ giới? Đây có phải là lỗi kĩ thuật không?

 - AI chọn nhiều hồ sơ nam giới hơn nữ giới vì hệ thống đã học từ dữ liệu cũ, nơi mà phần lớn những người được tuyển dụng cho vị trí kĩ thuật là nam giới.

 - Đây không phải là lỗi kĩ thuật mà là do nguồn dữ liệu dùng để huấn luyện hệ thống AI đó đã bị mất cân bằng ngay từ đầu.

2. Em nghĩ AI có thể sai không? Ai chịu trách nhiệm kiểm tra và điều chỉnh khi AI đưa ra kết quả chưa công bằng?

 - AI hoàn toàn có thể sai lệch, nó có thể tạo ra các kết quả thiên vị, thiếu công bằng hoặc gây hiểu lầm nếu được học từ dữ liệu bị lệch.

 - Con người (bao gồm người phát triển và người sử dụng) là đối tượng chịu trách nhiệm kiểm tra, theo dõi kết quả đầu ra và trực tiếp can thiệp điều chỉnh khi phát hiện các dấu hiệu thiên vị, chưa công bằng từ AI.

Trong tình huống Khởi động, hệ thống AI đề xuất hồ sơ ứng viên chủ yếu là nam giới cho các vị trí kĩ thuật, dù có những nữ ứng viên có trình độ tương đương. Đây không phải lỗi kĩ thuật mà là do dữ liệu huấn luyện hệ thống AI đó bị mất cân bằng.

Khi AI học từ dữ liệu bị lệch, nó có thể tạo ra kết quả thiên vị – tức là ưu tiên một phía và bỏ qua những lựa chọn hợp lí khác. Thiên vị trong AI tạo sinh có thể dẫn đến kết quả thiếu công bằng, sai lệch hoặc gây hiểu lầm. Hậu quả là AI có thể củng cố định kiến, làm giảm tính đa dạng và ảnh hưởng tiêu cực đến quyết định trong nhiều lĩnh vực.

Ví dụ, nếu AI được huấn luyện chủ yếu từ dữ liệu của một vùng địa lí hoặc ngôn ngữ nhất định, khi người dùng hỏi về văn hoá, phong tục hoặc truyền thống, AI có thể thiên về khu vực đó và bỏ sót các đặc điểm của những vùng khác. Điều này có thể khiến người dùng hiểu chưa đầy đủ về sự đa dạng văn hoá hoặc đưa ra kết luận thiếu chính xác.

GHI NHỚ

 - Thiên vị trong AI tạo sinh là hiện tượng mô hình tạo ra kết quả thiếu công bằng hoặc mang định kiến, do ảnh hưởng từ dữ liệu mà nó được huấn luyện.

 - Thiên vị trong AI tạo sinh có thể dẫn đến thông tin sai lệch, quyết định thiếu công bằng, củng cố định kiến xã hội và làm giảm độ tin cậy của hệ thống AI, nhất là trong các lĩnh vực như giáo dục, tuyển dụng, y tế, truyền thông,...

Trở lại tình huống Khởi động, có thể thấy kết quả do AI tạo sinh đưa ra đôi khi bị ảnh hưởng bởi dữ liệu huấn luyện và không phản ánh đầy đủ thực tế. Điều này cho thấy nếu người dùng không hiểu rõ về cách hoạt động của AI, có thể dễ gặp phải một số hiểu lầm khi sử dụng công cụ này trong học tập hoặc đời sống.

Một trong những hiểu lầm đó là cho rằng nội dung do AI tạo ra luôn đúng và có thể sử dụng ngay. Tuy nhiên, AI tạo nội dung dựa trên dữ liệu đã học, nên kết quả có thể chưa phù hợp với từng mục tiêu sử dụng khác nhau. Người dùng cần đọc kĩ, cân nhắc và điều chỉnh nội dung để đảm bảo phù hợp và chính xác.

Một hiểu lầm khác là nghĩ rằng AI có thể thay thế hoàn toàn khả năng suy nghĩ và sáng tạo của con người. AI có thể hỗ trợ gợi ý nội dung, nhưng việc lựa chọn, trình bày và thể hiện vẫn do người sử dụng quyết định. Việc quá phụ thuộc vào AI có thể khiến người học ít có cơ hội rèn luyện kĩ năng tự học, tự tư duy và sáng tạo.

GHI NHỚ

Khi sử dụng AI tạo sinh, người dùng có thể hiểu lầm như: nội dung luôn đúng, có thể dùng ngay hoặc AI có thể thay thế suy nghĩ của con người.

Trong tình huống Khởi động, hệ thống AI tạo sinh được dùng trong tuyển dụng đã đưa ra kết quả có xu hướng ưu tiên ứng viên nam giới, dù năng lực giữa các ứng viên nam giới và nữ giới là tương đương. Điều này cho thấy AI có thể tạo ra nội dung chưa chính xác hoặc mang định kiến. Trên thực tế, nhiều ứng dụng AI như ChatGPT cũng thường hiển thị cảnh báo ở phần kết quả, khuyến nghị người dùng nên kiểm tra lại thông tin trước khi sử dụng. Do đó, khi sử dụng AI, con người cần theo dõi và điều chỉnh kết quả để đảm bảo tính chính xác và công bằng.

Việc sử dụng AI đúng cách không chỉ phụ thuộc vào công nghệ, mà còn phụ thuộc vào cách con người thiết kế, kiểm tra và vận hành hệ thống. Người phát triển và người sử dụng cần thường xuyên đánh giá dữ liệu đầu vào, theo dõi kết quả đầu ra và điều chỉnh khi phát hiện dấu hiệu thiên vị. Ngoài ra, kết quả do AI tạo ra cần được xem xét kĩ lưỡng trước khi sử dụng, tránh phụ thuộc hoàn toàn vào nội dung được gợi ý.

Sử dụng AI công bằng nghĩa là tôn trọng sự đa dạng và đảm bảo không để AI gây bất lợi cho bất kì cá nhân hay nhóm người nào. Khi phát hiện kết quả có dấu hiệu thiên vị, loại trừ hoặc chưa phù hợp, con người cần can thiệp để điều chỉnh. Điều này đặc biệt quan trọng trong các lĩnh vực như tuyển dụng, giáo dục, truyền thông – nơi mỗi quyết định đều ảnh hưởng trực tiếp đến con người.

Đối với học sinh, khi sử dụng AI tạo sinh trong học tập, em cần đọc kĩ nội dung, đối chiếu với kiến thức đã học và diễn đạt lại theo cách hiểu của mình. Việc này giúp em vừa tận dụng được hỗ trợ từ AI, vừa rèn luyện khả năng tư duy, phản biện và thể hiện ý kiến cá nhân trong sản phẩm học tập.

GHI NHỚ

Con người đóng vai trò kiểm soát và điều chỉnh quá trình sử dụng AI tạo sinh. Sử dụng đúng cách là biết đánh giá, chọn lọc và điều chỉnh nội dung phù hợp. Sử dụng công bằng là đảm bảo AI không tạo ra kết quả gây thiên vị, bất lợi hoặc thiếu khách quan cho người khác.

1. Vì sao nội dung do AI tạo sinh tạo ra có thể mang tính thiên vị?

 A. Vì AI học từ dữ liệu do con người viết ra.

 B. Vì AI luôn chọn lọc nội dung theo cảm xúc.

 C. Vì dữ liệu huấn luyện có thể chưa đầy đủ hoặc thiếu đa dạng.

 D. Vì AI chỉ dùng ngôn ngữ lập trình để suy luận.

2. Phát biểu nào sau đây là một sai lầm thường gặp khi sử dụng AI tạo sinh trong học tập?

 A. Cần kiểm tra lại nội dung do AI tạo ra trước khi sử dụng.

 B. Có thể điều chỉnh thông tin AI tạo ra cho phù hợp với mục tiêu học tập.

 C. AI chỉ hỗ trợ, không thay thế được suy nghĩ của người học.

 D. Nội dung do AI tạo ra luôn chính xác và có thể dùng ngay.

3. Em cần làm gì để sử dụng AI tạo sinh một cách công bằng?

 A. Tin tưởng tuyệt đối vào mọi kết quả do AI tạo ra.

 B. Sử dụng AI để tạo nội dung gây bất lợi cho người khác.

 C. Kiểm tra nội dung, tôn trọng sự đa dạng và không thiên vị.

 D. Dùng nguyên văn nội dung AI trả về để tiết kiệm thời gian.

GỢI Ý TRẢ LỜI PHẦN LUYỆN TẬP

1. Vì sao nội dung do AI tạo sinh tạo ra có thể mang tính thiên vị?

 - Chọn đáp án C: Vì dữ liệu huấn luyện có thể chưa đầy đủ hoặc thiếu đa dạng.

2. Phát biểu nào sau đây là một sai lầm thường gặp khi sử dụng AI tạo sinh trong học tập?

 - Chọn đáp án D: Nội dung do AI tạo ra luôn chính xác và có thể dùng ngay.

3. Em cần làm gì để sử dụng AI tạo sinh một cách công bằng?

 - Chọn đáp án C: Kiểm tra nội dung, tôn trọng sự đa dạng và không thiên vị.

1. Lớp em đang thực hiện một tập san với chủ đề “Trường học thân thiện”. Em được giao nhiệm vụ sử dụng AI tạo sinh để gợi ý nội dung và hình ảnh minh hoạ cho phần giới thiệu. Em sẽ làm gì để đảm bảo nội dung được sử dụng là đầy đủ, khách quan và không bị thiên vị?

2. Ở nhà, em muốn tìm hiểu thêm kiến thức và rèn kĩ năng viết đoạn văn nghị luận. Em dự định dùng AI tạo sinh để tham khảo ý tưởng và luyện tập thêm. Em sẽ sử dụng AI như thế nào để đảm bảo đúng cách và công bằng?

GỢI Ý TRẢ LỜI PHẦN VẬN DỤNG

1. Lớp em đang thực hiện một tập san với chủ đề “Trường học thân thiện”. Em được giao nhiệm vụ sử dụng AI tạo sinh để gợi ý nội dung và hình ảnh minh hoạ cho phần giới thiệu. Em sẽ làm gì để đảm bảo nội dung được sử dụng là đầy đủ, khách quan và không bị thiên vị?

 - Em sẽ xem xét kĩ lưỡng kết quả hình ảnh và văn bản do AI gợi ý trước khi sử dụng thay vì phụ thuộc hoàn toàn vào những nội dung đó.

 - Em cần theo dõi, đánh giá xem kết quả có tôn trọng sự đa dạng hay không, đảm bảo AI không tạo ra các nội dung gây bất lợi, loại trừ hoặc mang định kiến đối với bất kì cá nhân, nhóm học sinh nào trong trường.

 - Nếu phát hiện kết quả có dấu hiệu thiên vị, em sẽ trực tiếp can thiệp để điều chỉnh lại cho khách quan và chính xác.

2. Ở nhà, em muốn tìm hiểu thêm kiến thức và rèn kĩ năng viết đoạn văn nghị luận. Em dự định dùng AI tạo sinh để tham khảo ý tưởng và luyện tập thêm. Em sẽ sử dụng AI như thế nào để đảm bảo đúng cách và công bằng?

 - Em chỉ sử dụng AI như một công cụ hỗ trợ gợi ý nội dung, còn việc lựa chọn, trình bày và thể hiện ý tưởng vẫn phải do chính em quyết định để rèn luyện kĩ năng tự tư duy và sáng tạo.

 - Khi nhận được bài viết tham khảo từ AI, em sẽ đọc kĩ, đối chiếu lại với những kiến thức mình đã học, sau đó cân nhắc, điều chỉnh và diễn đạt lại nội dung đó theo cách hiểu và văn phong của riêng mình.