Lộ trình ứng dụng AI có kiểm soát cho doanh nghiệp

Doanh nghiệp thường bắt đầu AI rất nhanh: một vài nhân viên thử ChatGPT, Copilot hoặc một công cụ chuyên ngành. Nếu thấy hữu ích, số người dùng tăng lên. Sau đó mới xuất hiện các câu hỏi:

• có được đưa dữ liệu khách hàng vào không;
• công cụ nào được phép dùng;
• kết quả AI có cần kiểm tra;
• ai chịu trách nhiệm nếu AI đưa thông tin sai;
• có lưu prompt và output không;
• nhà cung cấp có dùng dữ liệu để huấn luyện;
• một AI agent có được phép tự thực hiện hành động không.

Vì vậy, doanh nghiệp cần hai thứ song song:

khuyến khích thử nghiệm có giá trị và đặt guardrail đủ sớm để kiểm soát rủi ro.

Giai đoạn 1: Chọn use case, không bắt đầu bằng công nghệ

Đừng bắt đầu bằng câu hỏi:

Nên mua công cụ AI nào?

Hãy bắt đầu bằng:

Công việc nào đang tốn thời gian hoặc chất lượng chưa ổn định?

Ví dụ:

• tóm tắt tài liệu;
• soạn draft;
• phân loại yêu cầu;
• tìm kiếm tri thức nội bộ;
• hỗ trợ customer service;
• hỗ trợ coding;
• phân tích dữ liệu;
• trích xuất thông tin;
• kiểm tra tài liệu.

Mỗi use case cần có một người sở hữu và một kết quả mong đợi.

Giai đoạn 2: Phân loại rủi ro của use case

Một cách đơn giản là chia thành ba mức.

Thấp

• brainstorm;
• soạn nội dung nội bộ;
• tóm tắt tài liệu không nhạy cảm;
• hỗ trợ định dạng.

Trung bình

• xử lý dữ liệu nội bộ;
• tạo đầu ra gửi khách hàng;
• hỗ trợ phân tích;
• tạo code;
• sử dụng API.

Cao

• xử lý dữ liệu nhạy cảm;
• quyết định ảnh hưởng đến cá nhân;
• đầu ra pháp lý/tài chính;
• tự động thực hiện hành động;
• AI agent có quyền truy cập nhiều hệ thống;
• AI tích hợp trong sản phẩm.

Mức rủi ro quyết định mức kiểm soát.

Giai đoạn 3: Xác định dữ liệu nào được phép dùng

Doanh nghiệp nên phân loại ít nhất:

• public;
• internal;
• confidential;
• restricted/personal/sensitive.

Sau đó xác định AI service nào được xử lý loại dữ liệu nào.

Ví dụ:

Công cụ AI public không được nhận dữ liệu khách hàng chưa được phê duyệt.

Nhưng quy định này phải gắn với đào tạo và công cụ thực tế, nếu không nhân viên sẽ khó tuân thủ.

Giai đoạn 4: Thiết lập danh sách công cụ được phê duyệt

Không nhất thiết cấm mọi công cụ ngoài danh sách, nhưng phải có cơ chế đánh giá.

Một AI provider có thể được xem xét theo:

• mục đích;
• loại dữ liệu;
• retention;
• training use;
• quyền truy cập;
• location;
• security;
• contractual terms;
• khả năng export/delete;
• logging;
• subprocessor.

Các use case rủi ro cao cần review kỹ hơn.

Giai đoạn 5: Quy định human review

AI có thể tạo đầu ra trông rất thuyết phục nhưng vẫn sai.

Cần xác định khi nào human review bắt buộc.

Ví dụ:

• nội dung công khai;
• báo cáo gửi khách hàng;
• quyết định tài chính;
• code production;
• tư vấn chuyên môn;
• dữ liệu phân loại.

Human review phải có trách nhiệm rõ ràng, không chỉ ghi chung “người dùng cần kiểm tra”.

Giai đoạn 6: Lưu bằng chứng vừa đủ

Đối với use case quan trọng, doanh nghiệp có thể cần biết:

• ai dùng;
• dùng mô hình nào;
• dữ liệu gì;
• phiên bản/prompt;
• kết quả;
• reviewer;
• quyết định cuối cùng.

Không phải mọi cuộc trò chuyện AI đều cần lưu. Mức độ bằng chứng phụ thuộc vào rủi ro và yêu cầu của doanh nghiệp.

Giai đoạn 7: Kiểm soát AI agent và automation

AI agent khác chatbot ở chỗ nó có thể được cấp quyền thực hiện hành động:

• gửi email;
• tạo ticket;
• sửa dữ liệu;
• gọi API;
• chạy script;
• truy cập file.

Do đó cần kiểm soát thêm:

• scope quyền;
• approval gate;
• allowlist action;
• logging;
• rollback;
• rate limit;
• credential handling;
• human override.

Nguyên tắc tốt:

AI có quyền càng lớn thì khả năng quan sát và cơ chế phê duyệt càng phải mạnh.

Giai đoạn 8: Đo hiệu quả, không chỉ đo mức sử dụng

Một dự án AI thành công không phải là “80% nhân viên đã dùng AI”.

Nên đo:

• thời gian tiết kiệm;
• chất lượng đầu ra;
• tỷ lệ lỗi;
• tỷ lệ cần sửa;
• chi phí;
• mức hài lòng;
• sự cố;
• giá trị tạo ra.

Một use case không tạo giá trị nên được dừng hoặc thiết kế lại.

Giai đoạn 9: Có quy trình xử lý sự cố AI

Ví dụ:

• lộ dữ liệu;
• output sai nghiêm trọng;
• hallucination ảnh hưởng khách hàng;
• model behavior thay đổi;
• prompt injection;
• agent thực hiện sai hành động.

Sự cố cần được ghi nhận, đánh giá nguyên nhân và cải tiến.

Giai đoạn 10: Phát triển thành AI governance có cấu trúc

Khi số use case tăng, doanh nghiệp có thể thiết lập:

• AI policy;
• AI inventory;
• risk methodology;
• approval process;
• supplier review;
• AI impact assessment;
• lifecycle control;
• monitoring;
• incident management;
• training;
• internal audit.

Đây là thời điểm ISO/IEC 42001 có thể trở thành một khung quản lý hữu ích.

Xem [ISO/IEC 42001 phù hợp với tổ chức nào?](/tai-nguyen/iso-42001-phu-hop-voi-to-chuc-nao).

AI governance không nên giết chết thử nghiệm

Nếu mọi thử nghiệm đều phải qua quy trình phê duyệt dài, nhân viên sẽ tìm cách làm ngoài hệ thống.

Một mô hình tốt nên tạo “safe sandbox”:

• use case thấp rủi ro;
• dữ liệu không nhạy cảm;
• tool đã phê duyệt;
• không tự động action;
• output phải review.

Từ đó doanh nghiệp có thể học nhanh mà vẫn duy trì guardrail.

Liên hệ với an toàn thông tin

AI governance phụ thuộc mạnh vào security.

Các vấn đề chung gồm:

• access;
• data;
• credentials;
• cloud provider;
• logging;
• incident response;
• supplier risk.

Doanh nghiệp nên kết nối AI governance với các kiểm soát an toàn thông tin hiện hữu thay vì xây một hệ thống hoàn toàn tách biệt.

Xem [Doanh nghiệp SME nên bắt đầu quản trị an toàn thông tin thế nào?](/tai-nguyen/quan-tri-an-toan-thong-tin-cho-sme).

Một roadmap đơn giản

0–30 ngày

• inventory use case;
• policy tối thiểu;
• approved tools;
• data rule;
• awareness.

30–60 ngày

• risk classification;
• supplier review;
• human review;
• pilot KPI;
• incident channel.

60–90 ngày

• formal AI inventory;
• impact assessment;
• monitoring;
• audit trail cho use case quan trọng;
• governance review.

Sau đó doanh nghiệp mới quyết định có cần phát triển AIMS đầy đủ và chứng nhận hay không.

HQC có thể hỗ trợ

• [AI for Business](/dich-vu/ai-for-business)
• [ISO/IEC 42001](/tieu-chuan/iso-42001)
• [Đào tạo AI ứng dụng cho doanh nghiệp](/dao-tao/ai-ung-dung-doanh-nghiep)
• [ISO/IEC 42001 phù hợp với tổ chức nào?](/tai-nguyen/iso-42001-phu-hop-voi-to-chuc-nao)

Ứng dụng AI tốt không đồng nghĩa với việc thêm thật nhiều công cụ. Quan trọng là lựa chọn đúng use case, kiểm soát đúng mức và có khả năng chứng minh cách tổ chức quản trị rủi ro.

[Liên hệ HQC](/lien-he) nếu doanh nghiệp muốn xây roadmap AI hoặc rà soát mức độ sẵn sàng theo ISO/IEC 42001.

Nguồn tham khảo

• ISO – ISO/IEC 42001:2023 AI management systems: https://www.iso.org/standard/42001
• ISO – AI management systems: What businesses need to know: https://www.iso.org/artificial-intelligence/ai-management-systems