Quy hoạch DC: Một phương pháp tối ưu mà bạn không biết rằng bạn phải biết về nó!

Giới thiệu quy hoạch DC

Biến đổi Laplace và Fourier

Đây là một bài viết ngắn thảo luận về mối quan hệ giữa biến đổi Laplace và biến đổi Fourier, hai công cụ quan trọng trong toán học kỹ thuật.

Thông tin và Entropy

Lý thuyết thông tin là nghiên cứu về cách dữ liệu có thể được mã hóa và giải mã, nén và giải nén. Mục tiêu chính của lý thuyết thông tin, như Claude Shannon đã đặt ra, là truyền thông tin đáng tin cậy qua một kênh không đáng tin cậy. Trong các bài viết này, chúng ta sẽ thảo luận về độ dài tối thiểu mà dữ liệu có thể được nén xuống, cũng như lượng dư thừa tối thiểu cần thêm vào dữ liệu để mã hóa sao cho có thể giải mã không có lỗi.

Mạng neural có khả năng suy rộng là nhờ vào một ''thủ thuật (trick)'' kỳ quặc!!!

Lý thuyết Học thống kê đang lừa dối bạn rằng: Các mô hình tham số hóa quá mức (“Overparametrized” models) không thật sự quá mức, và khả năng suy rộng/ tổng quát hóa (generalization) không chỉ là một câu hỏi về độ rộng của lòng chảo trong không gian độ lỗi.

Hành động ma quái ở khoảng cách xa trong miền mất mát

Không phải tất cả các cực tiểu toàn cục của miền mất mát (huấn luyện) đều được tạo ra như nhau. Ngay cả khi chúng đạt được hiệu suất tương đương trên tập huấn luyện, các giải pháp khác nhau có thể hoạt động rất khác nhau trên tập kiểm tra hoặc trên phân phối ngoài mẫu. Vậy tại sao chúng ta thường tìm thấy các giải pháp “đơn giản” có khả năng tổng quát hóa tốt?

Thể tích Hessian và Basin

Khi thảo luận về “các lưu vực rộng (broad basins)” trong miền mất mát của một mạng DNN, Hessian của hàm mất mát thường được đề cập. Bài viết này sẽ tập trung giải thích một xấp xỉ lý thuyết đơn giản của thể tích lưu vực (basin volume) mà sử dụng Hessian của hàm mất mát.

Lý thuyết học kỳ dị - Singular Learning Theory

Lý thuyết học kỳ dị hay Singular Learning Theory (SLT) là một lý thuyết cơ sở toán học mới nhằm mục tiêu mở rộng và cải thiện Lý thuyết Học thống kê cổ điển (Traditional Statistical Learning Theory) bằng các kỹ thuật từ các lý thuyết Hình học Đại số (Algebraic geometry), Thống kê Bayesian (Bayesian statistics) và Vật lý Thống kê (Statistical physics). Đây là một lý thuyết đầy hứa hẹn cho việc xây dựng nền tảng toán học của lý thuyết học máy hiện đại.

Tổng quan về Neuro-Dynamic Programming (NDP)

Neuro-dynamic programming (NDP) là một lớp phương pháp quy hoạch động (dynamic programming - dp) mới dùng cho việc kiểm soát và đưa ra chuỗi các quyết định dưới điều kiện không chắc chắn, mà được nhận định rằng có tiềm năng trong việc giải quyết với các bài toán khó do không gian trạng thái (state space) khổng lồ hay tính chính xác kém của mô hình. Đây là một lĩnh vực nghiên cứu giao thoa giữa nhiều lĩnh vực khác như mạng nơ-ron (neural networks), khoa học thần kinh (cognitive science), mô phỏng (simulation), và lý thuyết xấp xỉ (approximation theory).

Các thuật toán dự đoán liên kết

Mở đầu Dịch từ: Link prediction algorithms "Prediction is very difficult, especially if it's about the future." (Tạm dịch: Dự đoán thì rất là khó, đặc biệt là khi nói về tương lai!.) —Nils Bohr, Nobel laureate in Physics Mạng xã hội (social networks) là một cách phổ thông để mô hình tương tác giữa con người trong một nhóm hay cộng đồng. Chúng có thể được trực quan hóa như đồ thị (graphs), trong đó một đỉnh (vertex) tương ứng với một người trong một số nhóm và một cạnh thể hiện một số dạng của sự liên hệ giữa những người tương ứng.

Lời khuyên cho một nhà toán học trẻ

Lời nói đầu của người dịch Lời đầu tiên, tôi không phải một nhà toán học. Một cách thật vắn tắt, tôi không có nền tảng chính quy về Toán học mà chỉ là những kiến thức cơ bản và liên quan đến ứng dụng. Đối với tôi, toán học rất đẹp đẽ và nó giúp tôi (nói riêng) có thể mô tả về thế giới này. Khi lướt Twitter (X), tôi đã bắt gặp bài báo này và tôi cảm thấy nó hay.

Khái lược lịch sử Toán học

Toán học là gì? Toán học bắt đầu từ đâu? Việc đếm là vấn đề đầu tiên khi bắt đầu với Toán học. Tuy nhiên, thật không hợp lý khi cho rằng việc đếm là khởi nguồn của nó. Chỉ đến khi có những bản ghi chép về phép đếm được người xưa ghi lại, được lưu giữ và do từ đó, một số biểu diễn số học xuất hiện thì Toán học mới được coi là bắt đầu.