Kiểm soát AI tạo sinh tại các doanh nghiệp: Tổng quan tài liệu và đề xuất tại Việt Nam

Trần Thị Bích Phương

Trường Đại học Thái Bình; NCS. Đại học Công nghiệp Hà Nội

Email:[email protected], [email protected]

ORCID:0009-0005-5782-4048

Tóm tắt

Sự phát triển vượt bậc của trí tuệ nhân tạo tạo sinh (Gen-AI) đã và đang tạo ra những cơ hội và thách thức cho các doanh nghiệp Việt Nam. Qua quá trình tổng quan các nghiên cứu về kiểm soát Gen-AI trong doanh nghiệp, nghiên cứu cho thấy những rủi ro khi sử dụng Gen-AI trong doanh nghiệp, các hoạt động kiểm soát Gen-AI trên thế giới và đề xuất một số khuyến nghị nhằm sử dụng Gen-AI trong doanh nghiệp một cách hiệu quả, bảo mật và có đạo đức.

Từ khóa: Gen-AI, trí tuệ nhân tạo tạo sinh, kiểm soát Gen-AI

Abstract

The rapid advancement of generative artificial intelligence (Gen-AI) has created both opportunities and challenges for Vietnamese enterprises. Through a review of studies on Gen-AI governance and control in enterprises, this study identifies the risks associated with the use of Gen-AI in business settings, examines Gen-AI control practices worldwide, and proposes recommendations to ensure the effective, secure, and ethical use of Gen-AI in enterprises.

Keywords: Gen-AI, generative artificial intelligence, Gen-AI control

GIỚI THIỆU

Gen-AI đang có sự phát triển vượt bậc khi thực hiện được các thuật toán khổng lồ thông qua học hỏi, huấn luyện từ người dùng để phát triển các sản phẩm cá nhân hóa trong thời gian ngắn - điều mà trước đây người dùng mất nhiều thời gian và ứng dụng để tạo ra. Tuy nhiên, việc lạm dụng Gen-AI, tình trạng rò rỉ dữ liệu, công nhận kết quả không kiểm thực… cũng đòi hỏi phải kiểm soát Gen-AI nhằm đảm bảo sự bảo mật, công bằng, minh bạch mà vẫn mang lại hiệu quả công việc trong doanh nghiệp. Nghiên cứu này tiến hành tổng quan tài liệu về kiểm soát Gen-AI trong doanh nghiệp và đưa ra một số đề xuất tại Việt Nam nhằm kiểm soát Gen-AI một cách hệ thống, bài bản và mang lại hiệu quả về mặt giá trị cũng như cảm xúc.

TỔNG QUAN VỀ TRÍ TUỆ NHÂN TẠO TẠO SINH

Khác với AI truyền thống, Gen-AI có khả năng tạo ra sản phẩm có sự khác biệt dựa trên các mẫu được huấn luyện. Theo Lorenz và cộn sự (2023), Gen-AI là mô hình AI được thiết kế tạo ra các sản phẩm kỹ thuật số (hình ảnh, âm thanh, video, phần mềm); Gen-AI được hệ thống học máy huấn luyện trên các dữ liệu lớn để đưa ra sản phẩm tương tự như huấn luyện. Sự bùng nổ Gen-AI mở ra nhiều cơ hội cho các tổ chức, doanh nghiệp trong việc nâng cao năng suất, tối ưu hóa năng suất làm việc của máy móc thay vì thủ công bằng sức người, thúc đẩy quá trình đổi mới chỉ trong 1 ý tưởng (Lorenz và cộng sự, 2023a). Tuy nhiên, thách thức cũng đặt ra khi sử dụng Gen AI không kiểm soát dẫn đến rủi ro về an ninh, bảo mật dữ liệu, thông tin sai lệch… Nhiều nghiên cứu gần đây đã chỉ ra những rủi ro khi sử dụng Gen-AI trong doanh nghiệp mà không có sự kiểm soát. Cụ thể:

Thứ nhất, sự sai lệch thông tin và kết quả ảo

Gen-AI đưa ra các kết quả được tổng hợp từ thông tin không có thật. Khi đưa ra các kết quả này, Gen-AI dùng cách thể hiện khá cuốn hút, có khoa học, “có vẻ là thật” để thuyết phục người dùng chấp nhận sản phẩm đó. Nếu lạm dụng Gen-AI, coi các sản phẩm này là kết luận thì việc sử dụng đưa ra quyết định có thể dẫn đến sai lầm nghiêm trọng, có thể ảnh hưởng theo chuỗi đến tất cả các hoạt động trong doanh nghiệp. Quá trình tạo tin giả huấn luyện cho Gen-AI trong thời gian dài sẽ dẫn đến đe dọa tri thức nhân loại (Janssen, 2025).

Thứ hai, vi phạm sở hữu trí tuệ và đạo đức và rò rỉ thông tin cá nhân

Hiện nay, nguồn thông tin Gen-AI được huấn luyện là toàn bộ dữ liệu khổng lồ thu thập được từ internet mà không có sự kiểm chứng hay cho phép bản quyền (Kuai và Ferrari, 2026). Việc sử dụng các dữ liệu này có thể dẫn đến vi phạm sở hữu trí tuệ khi Gen-AI có thể không trích nguồn đúng hoặc người dùng không yêu cầu trích nguồn (Ferrari và cộng sự, 2025). Mặt khác, việc rò rỉ các thông tin nội bộ trong doanh nghiệp có thể xảy ra khi các thông tin về khách hàng, nhân sự, dự án được tải trực tiếp lên Gen-AI để thực hiện công việc. Gen-AI có thể thu thập, học hỏi và dùng cho các hoạt động khác sau này dẫn đến thiệt hại khó lường cho doanh nghiệp (Schneider và cộng sự, 2024).

Thứ ba, nguy cơ mất an toàn an ninh mạng

Khi Gen-AI được huấn luyện cho những mục đích không tốt thì càng nguy hại hơn. Người dùng có thể huấn luyện Gen-AI tạo ra các câu lệnh, mã hóa các phần mềm độc hại thâm nhập qua rào chắn an ninh mạng để thực hiện các hoạt động lừa đảo, ăn cắp thông tin mật của quốc gia… (Schneider và cộng sự, 2024; Wang và cộng sự, 2025)

Thứ tư, tác động đến kinh tế-xã hội

Hiện nay đã có nhiều nước phát triển robot làm việc trong công xưởng khiến cho cho thị trường lao động chịu nhiều ảnh hưởng sâu sắc (Kuai và Ferrari, 2026). Đặc biệt các lao động thủ công sẽ bị đe dọa thay thế liên tục, tạo ra sức ép về cảm xúc cũng như thù lao nhận được. Mặt khác, khi thực hiện các thuật toán tổng hợp, phân tích liên tiếp trong thời gian ngắn, Gen-AI cần sử dụng nước và điện năng rất lớn, về lâu dài sẽ làm tăng chi phí phục hồi và bảo vệ môi trường, gây ảnh hưởng đến nền kinh tế.

MỘT SỐ HOẠT ĐỘNG KIỂM SOÁT GEN-AI TRÊN THẾ GIỚI

Trước những rủi ro do Gen-AI tạo ra, các nước phát triển trên thế giới đã có những hoạt động nhằm kiểm soát các rủi ro gây ra bởi Gen-AI.

Liên minh Châu Âu đã đưa ra Luật AI, trong đó phân loại AI theo các mức độ rủi ro và đưa ra các biện pháp kiểm soát tương ứng (Ferrari và cộng sự, 2025; Luna và cộng sự, 2024).

Trong khi Hoa Kỳ lại thông qua khung quản lý rủi ro AI để đảm bảo sự an toàn, an ninh mạng mà không làm giảm hiệu quả đổi mới sáng tạo (Schneider và cộng sự, 2024).

Tại Trung Quốc, bộ quy tắc rất chặt chẽ cho từng công nghệ được ban hành: quy định quản trị thuật toán đề xuất, quản trị tổng hợp sâu, quản trị dịch vụ Gen-AI, nhằm bảo đảm an ninh mạng quốc gia, ổn định kinh tế - xã hội và gắn trách nhiệm cho người cung cấp dịch vụ Gen-AI (Luna và cộng sự, 2024).

Tại Anh, thay vì đưa ra các luật cứng làm giảm đổi mới, chính phủ đã phân quyền cho các cơ quan quản lý để xử lý các ảnh hưởng của Gen-AI (Cheung, 2025). Đồng thời, họ chuyển sang định hướng “AI an toàn” khi tổ chức một bộ phận riêng quản lý AI là Viện An toàn AI.

Canada xây dựng Bộ quy tắc ứng xử để hướng dẫn tổ chức thực hiện quản lý rủi ro một cách tự nguyện thay vì bắt buộc như các nước khác.

Singapore có cách làm khác khi dùng Khung quản trị AI mẫu để triển khai GenAI an toàn nhưng vẫn linh hoạt (Luna và cộng sự, 2024).

Tuy không phải là mô hình quản trị, nhưng Ủy ban các Tổ chức Tài trợ thuộc Ủy ban Quốc gia Hoa Kỳ (COSO), với vai trò là một tổ chức cung cấp các khung kiểm soát, quản trị rủi ro, đã ban hành bộ quy tắc hướng dẫn kiểm soát nội bộ Gen-AI một cách hiệu quả. Quan điểm kiểm soát nội bộ AI gần đây đã dịch chuyển từ “Kiểm soát quy tắc” sang “Quản trị rủi ro có kiểm soát”. Một điểm mới khác của COSO 2026 là khái niệm mới về “sự phụ thuộc vào AI”: lịch sử các câu lệnh, phiên bản mô hình được Gen-AI thiết kế phải được ghi vết trước khi quyết định. Dựa trên 17 nguyên tắc, 5 thành phần ban đầu, COSO đã đưa ra các biện pháp cần thiết để quản lý Gen-AI. COSO 2026 cũng đưa ra lộ trình triển khai kiểm soát nội bộ Gen-AI với 6 bước: (1)Thiết lập cấu trúc quản trị, (2) Thiết lập danh mục các hoạt động đang ứng dụng Gen-AI, (3) Đánh giá rủi ro từng ứng dụng, (4) Thiết kế và lập các điểm kiểm soát thông qua các chỉ số đánh giá rủi ro, (5) Triển khai, vận hành cấu hình cảnh báo tự động và đào tạo năng lực nhân sự, (6) Giám sát liên tục ngưỡng chấp nhận và điều chỉnh điểm kiểm soát sau mỗi phiên bản Gen-AI mới.

ĐỀ XUẤT CHO CÁC DOANH NGHIỆP TẠI VIỆT NAM

Hiện nay, Gen-AI được sử dụng một cách thường xuyên trong tất cả các lĩnh vực, hoạt động tại Việt Nam. Báo cáo của Deloitte (2026) cho biết sự gia tăng đáng kể trong việc sử dụng AI tại Đông Nam Á, trong đó Việt Nam dẫn đầu với tỷ lệ 93% người dùng sử dụng hàng ngày. Các ngân hàng, doanh nghiệp tư vấn, tài chính… thường sử dụng Gen-AI nhằm thực hiện các hoạt động bán hàng, tối ưu hóa quảng cáo hoặc quản trị nội bộ. Báo cáo Chỉ số xu hướng công việc (Microsoft, 2024) cho thấy 75% lao động tri thức ở Việt Nam sử dụng Gen-AI vào công việc. Đến năm 2026, báo cáo này cho biết, người lao động Việt Nam đang tiến nhanh hơn tổ chức làm việc trong việc ứng dụng AI (Microsoft, 2026). Tuy nhiên, Gen-AI tại Việt Nam vẫn đang được sử dụng ở mức sơ khai và cá nhân hóa, tức là người dùng cho hoạt động tìm kiếm thông tin, chưa ứng dụng vào công việc chuyên sâu; quá trình sử dụng Gen-AI như một thử nghiệm trong việc viết báo cáo, trả lời mail… mà chưa được tích hợp trong toàn doanh nghiệp. Mặc dù chỉ dừng lại ở mức cơ bản nhưng các rủi ro do Gen-AI tạo ra vẫn mang những tiềm ẩn nhất định về lâu dài. Điều này buộc cần có những hành lang kiểm soát cụ thể bằng hệ thống kiểm soát Gen-AI từ phía các doanh nghiệp.

Kết quả nghiên cứu cho thấy, các quốc gia trên thế giới đang tiếp cận quản trị Gen-AI thông qua nhiều góc độ khác nhau, phụ thuộc vào từng điều kiện cụ thể về đặc điểm thể chế, chiến lược (Chen và cộng sự, 2025). Xu hướng quản trị cấp độ quốc tế diễn ra thông qua mạng lưới các tổ chức độc lập (như OECD, G7…) nhưng việc nắm giữ Big Tech tập trung vào số ít tập đoàn công nghệ lớn. Thách thức đặt ra cho các doanh nghiệp khi yêu cầu đổi mới sáng tạo nhanh nhưng khó kiểm soát rủi ro đạo đức, pháp lý vượt biên giới (Chen và cộng sự, 2025).

Từ các tài liệu nghiên cứu, tác giả đề xuất các hoạt động nhằm thực hiện kiểm soát nội bộ Gen-AI một cách hiệu quả như sau:

Một là, kiểm soát bảo mật thông tin

Với các doanh nghiệp có dữ liệu data về khách hàng, nhà cung cấp, thông tin bảo mật tài chính cao… việc bảo mật thông tin cần được đặc biệt quan tâm. Theo đó, cần xây dựng cổng chặn quyền truy cập vào dữ liệu của Gen AI trên mạng nội bộ hoặc thiết bị của doanh nghiệp. Phân quyền truy cập và lưu vết truy cập dữ liệu được thiết kế cụ thể. Doanh nghiệp nên mua các tài khoản Gen-AI dành cho doanh nghiệp thay vì Gen-AI dùng công cộng để nhân viên khai thác một cách an toàn.

Hai là, kiểm soát tuân thủ và sở hữu trí tuệ

Luật sửa đổi, bổ sung một số điều của Luật Sở hữu trí tuệ (Quốc hội, 2025) đã cụ thể hóa sở hữu trí tuệ gắn với AI nhằm bảo vệ các cá nhân tác giả có sản phẩm trí tuệ khỏi việc sao chép từ AI. Doanh nghiệp cần kiểm soát các yếu tố đầu vào khi huấn luyện Gen-AI, không dùng trái phép dữ liệu có bản quyền để tạo ra sản phẩm. Việc sử dụng các sản phẩm này có thể mang đến rắc rối về pháp lý và ảnh hưởng đến uy tín của doanh nghiệp. Sản phẩm đầu ra từ Gen-AI hiện nay không được công nhận bản quyền, doanh nghiệp cần sử dụng đây như công cụ có tính gợi ý, phác thảo và được phát triển từ các cá nhân và tổ chức.

Ba là, thực hiện ban hành quy định quản trị Gen-AI

Các doanh nghiệp đã sử dụng Gen-AI trên toàn bộ hệ thống hoặc một phần phục vụ hoạt động sản xuất, kinh doanh, cần xây dựng văn bản quy định cụ thể về quy tắc ứng xử Gen-AI. Doanh nghiệp có thể thiết kế các kiểm soát rủi ro công nghệ phi truyền thống với Gen-AI tại các cấp độ: cá nhân, tổ chức và môi trường. Cấp độ cá nhân là quy định về sử dụng thông tin đầu vào và quy tắc bảo mật của nhân viên. Cấp độ tổ chức là sự kiểm soát quyền truy cập các thông tin, kiểm tra định kỳ các thuật toán Gen-AI, thiết lập trách nhiệm phê duyệt và giải trình cuối cùng các sản phẩm từ Gen-AI . Cấp độ môi trường là báo cáo các tính toán về hiệu suất sử dụng Gen-AI từ lợi ích và chi phí hoạt động nhằm bảo đảm thực hiện đổi mới sáng tạo theo hướng bền vững.

Bốn là, nâng cao năng lực nhân viên kiểm soát nội bộ

Khi ứng dụng Gen-AI, đội ngũ nhân viên kiểm soát nội bộ không chỉ được trang bị hiểu biết về Gen-AI, mà còn cần được đào tạo về đạo đức AI. Các kiến thức về sử dụng câu lệnh, thuật toán cần được trang bị đầy đủ, bài bản cho nhân viên kiểm soát nội bộ nhằm thực hiện các thủ tục kiểm soát liên tục. Đạo đức AI là điều được đề cập rất nhiều trong các nghiên cứu, điều này buộc kiểm soát viên trong quá trình sử dụng Gen-AI cần đảm bảo tính minh bạch, giải trình được, kiểm soát và bảo mật.

Tài liệu tham khảo:

1. Chen, Z., Wang, Y., & Zhao, X. (2025). Responsible Generative AI: Governance Challenges and Solutions in Enterprise Data Clouds. Journal of Computing and Electronic Information Management, 18(3), 59-65.

2. Cheung, S. (2025). Generative AI, generating crisis: Framing opportunity and threat in AI governance. Information, Communication & Society, 1-17.

3. Committee of Sponsoring Organizations of the Treadway Commission (2026). Achieving effective internal control over generative AI (GenAI).

4. Deloitte (2026). The state of AI in the enterprise: The untapped edge. Deloitte AI Institute.

5. Ferrari, F., Van Dijck, J., & Van den Bosch, A. (2025). Observe, inspect, modify: Three conditions for generative AI governance. New Media & Society, 27(5), 2788-2806.

6. Janssen, M. (2025). Responsible governance of generative AI: conceptualizing GenAI as complex adaptive systems. Policy and Society, 44(1), 38-51.

7. Kuai, J., & Ferrari, F. (2026). Generative AI governance: from regulatory design to institutional reordering. Information, Communication & Society, 29(6), 1803-1812.

8. Lorenz, P., Perset, K., & Berryhill, J. (2023). Initial policy considerations for generative artificial intelligence. OECD Artificial Intelligence Papers, No. 1. OECD Publishing. https://doi.org/10.1787/fae2d1e6-en.

9. Luna, J., Tan, I., Xie, X., & Jiang, L. (2024). Navigating governance paradigms: A cross-regional comparative study of generative AI governance processes & principles. In Proceedings of the AAAI/ACM Conference on AI, Ethics, and Society (Vol. 7, No. 1, pp. 917-931).

10. Microsoft (2024). Work trend index 2024: AI at work is here. Now comes the hard part.

11. Microsoft (2026). Work trend index 2026 annual report: Agents, human agency, and the opportunity for every organization.

12. Quốc hội (2025). Luật sửa đổi, bổ sung một số điều của Luật Sở hữu trí tuệ số 131/2025/QH15.

13. Schneider, J., Kuss, P., Abraham, R., & Meske, C. (2024). Governance of generative artificial intelligence for companies. arXiv preprint arXiv:2403.08802.

14. Wang, X., Liu, B., & Bao, L. (2025). Generative artificial intelligence policies: information governance. Management Decision.