Series Python, AI & Data đi từ thu thập và làm sạch dữ liệu tới machine learning, deep learning, xử lý ngôn ngữ tiếng Việt, LLM, RAG, agent và đưa mô hình vào vận hành, với code Python chạy thật và số liệu đo trên ...
Suốt hơn hai thập niên, câu trả lời chuẩn cho câu hỏi "vì sao thêm luồng không làm Python nhanh hơn" là GIL, khoá thông dịch toàn cục chỉ cho một luồng chạy bytecode tại một thời điểm. Từ Python 3.13,...
Một chatbot RAG chăm sóc khách hàng chạy được trên máy cá nhân chỉ mất một buổi chiều. Khó là biến nó thành thứ giao được cho khách: biết khi nào nên im lặng, không bịa con số về tiền và thời hạn, có...
Một pipeline dữ liệu tốt không phải là một script dài chạy được một lần, mà là chuỗi bước nhỏ, mỗi bước có đầu vào, đầu ra và cách kiểm tra riêng, chạy lại bao nhiêu lần cũng cho cùng kết quả. Bài này...
Polars là thư viện DataFrame viết bằng Rust, có API Python, thiết kế quanh một ý tưởng: bạn mô tả cả truy vấn trước, thư viện tối ưu kế hoạch, rồi mới đọc dữ liệu. Với bảng đơn hàng vài triệu dòng, cá...
AI có trách nhiệm không phải khẩu hiệu đạo đức đặt cuối slide, mà là một tập việc kỹ thuật cụ thể: biết mình dùng dữ liệu cá nhân nào, có quyền dùng không, mô hình có đối xử khác nhau giữa các nhóm kh...
Data drift là hiện tượng phân phối dữ liệu đầu vào của một mô hình đang chạy thật dần khác với phân phối của dữ liệu đã dùng để huấn luyện. Mô hình không báo lỗi, API vẫn trả HTTP 200, độ trễ vẫn đẹp,...
MLflow là nền tảng mã nguồn mở để quản lý vòng đời học máy: ghi lại từng lần huấn luyện, lưu mô hình cùng chữ ký đầu vào, đặt tên và đánh phiên bản trong một registry, rồi phục vụ mô hình qua REST. Bà...
vLLM là engine mã nguồn mở để phục vụ mô hình ngôn ngữ lớn (LLM) với thông lượng cao, ra đời từ nhóm nghiên cứu ở UC Berkeley và công bố qua bài báo PagedAttention tại SOSP 2023. Hai ý tưởng làm nên n...
ONNX (Open Neural Network Exchange) là định dạng mở để lưu một mô hình học máy dưới dạng đồ thị tính toán, kèm trọng số, tách khỏi framework đã huấn luyện ra nó. Mô hình ONNX được chạy bằng ONNX Runti...
FastAPI là framework web Python dựa trên Starlette và Pydantic, và là lựa chọn phổ biến để đưa mô hình AI thành một dịch vụ HTTP. Chạy được trong notebook mới đi được một nửa quãng đường. Nửa còn lại...
Một mô hình multimodal nhận nhiều loại đầu vào, trong bài này là ảnh cùng câu hỏi bằng chữ, và trả lời bằng văn bản. Ví dụ: hóa đơn chụp bằng điện thoại, bảng giá scan, biểu đồ báo cáo. Bài này đặt ba...
Đánh giá LLM là đo bằng số liệu xem ứng dụng dùng mô hình ngôn ngữ có làm đúng việc hay không, và có bị lừa làm điều sai hay không. Thiếu bước đánh giá LLM, mỗi lần đổi prompt, đổi mô hình hay thêm tà...
LoRA (Low-Rank Adaptation) là kỹ thuật fine-tune mô hình ngôn ngữ lớn mà không cập nhật trọng số gốc: bạn đóng băng ma trận W, chỉ học thêm hai ma trận hạng thấp B và A, và đầu ra của lớp trở thành Wx...
Đã hiển thị toàn bộ bài viết
