Học Online :D

Thông thường khi bắt đầu học postgraduate, sinh viên thường thiếu các kiến thức chuyên môn, hoặc vì không được học trong các chương trình trước đó, hoặc lĩnh vực nghiên cứu vẫn còn chưa ổn định (những lĩnh vực nghiên cứu trong Computer Vision hay Machine Learning bây giờ là khá mới, do đó nhiều kiến thức còn lộn xộn và chưa có tính hệ thống như Toán học hay một số ngành lâu đời khác). Mặt khác, CV hay ML cũng có  thể được xếp vào loại Applied Mathematics, do đó ứng dụng chéo kết quả và lý thuyết từ vài lĩnh vực con khác nhau của toán học, gây cho sinh viên rất nhiều khó khăn trong việc chọn lọc nguồn tiếp thu kiến thức. CV và ML giờ đây còn là những lĩnh vực rất hot, tạo nên sự bon chen khốc liệt trong việc publication trước hay sau, hoặc ai là những người viết những paper đầu tiên về lĩnh vực đó.

Bổ túc kiến thức luôn cần thiết. Do đó, cộng đồng nghiên cứu có tổ chức các Summer School cho first-year PhD student. Các summer school này quy tụ những invited speaker có tiếng tăm trong ngành, đồng thời có một syllabus được thiết kế tương tự một môn học, với các chủ đề khó dần và cụ thể dần. Tuy nhiên, hoạt động này diễn ra còn lẻ tẻ. Có một cách cập nhật khá tốt những kiến thức liên quan Applied Math, là theo dõi các viện toán ở Mỹ. Không phải là các nước khác không có viện toán, mà toán ứng dụng ở Mỹ chắc là đa dạng và tích cực hàng đầu thế giới (theo tôi nghĩ). Chúng ta có thể tìm được vô số tài nguyên quý (sumer school, workshop, lectures, video) nhất là trong lĩnh vực Machine Learning và Data Mining.

Một số kênh tài nguyên khác, mà chắc nhiều người đã biết, như:

• Các tutorial sessions ở những hội nghị hàng đầu trong ngành
• Videolectures.net
• Các tutorial lẻ từ một số nhân vật giỏi + nổi tiếng + tốt bụng
• Summer school của machine learning tổ chức từ năm 2003 đến nay
• …

Ví dụ đây là một số chủ đề ở viện IPAM tôi quan tâm:

• Graduate Summer School: Intelligent Extraction of Information from Graph and High-dimensional Data
• Graduate Summer School: Probabilistic Models of Cognition: The Mathematics of Mind
• Workshop: Laplacian Eigenvalues and Eigenfunctions: Theory, Computation, and Application
• Workshop: Graph Cuts and Related Discrete or Continuous Optimization Problems
• Short Course: Sparse Representation and High Dimensional Geometry

Danh sách các viện toán của NSF

AIM Events AIM (American Institute of Mathematics)
http://www.aimath.org
Palo Alto, CaliforniaAIM fosters progress in all areas of mathematics through focused collaborative research. 

IAS Events IAS (Institute for Advanced Study)
http://www.math.ias.edu
Princeton, New JerseyThe Institute for Advanced Study is an independent, private institution dedicated entirely to the encouragement, support and patronage of learning through fundamental research and definitive scholarship across a wide range of fields. 

ICERM Events ICERM (Institute for Computational and Experimental Research in Mathematics)
http://icerm.brown.edu/
Providence, Rhode IslandThe mission of ICERM is to support and broaden the relationship between mathematics and computation and, specifically, to expand the use of computational and experimental methods in mathematics, to support theoretical advances related to computation, and to address problems posed by the existence and use of the computer through mathematical tools, research and innovation. 

IMA Events IMA (Institute for Mathematics and its Applications)
http://www.ima.umn.edu
Minneapolis, MinnesotaThe IMA exists to increase the impact of mathematics by fostering interdisciplinary research linking mathematics with important scientific and technological problems from other disciplines and industry. Allied with this mission, the IMA also aims to expand and strengthen the talent base engaged in mathematical research applied to or relevant to such problems. 

IPAM Events IPAM (Institute for Pure and Applied Mathematics)
http://www.ipam.ucla.edu
Los Angeles, CaliforniaThe overall mission of the Institute for Pure and Applied Mathematics (IPAM) is to make connections between a broad spectrum of mathematicians and scientists, to launch new collaborations, to better inform mathematicians and scientists about interdisciplinary problems, and to broaden the range of applications in which mathematics is used. 

MBI Events MBI (Mathematical Biosciences Institute)
http://www.mbi.osu.edu
Columbus, OhioThe mission of the MBI is: (1) to develop mathematical theories, statistical methods, and computational algorithms for the solution of fundamental problems in the biosciences; (2) to involve mathematical scientists and bioscientists in the solutions of these problems; and (3) to nurture a community of scholars through education and support of students and researchers in mathematical biosciences. 

MSRI Events MSRI (Mathematical Sciences Research Institute)
http://www.msri.org
Berkeley, CaliforniaThe Mathematical Sciences Research Institute (MSRI) exists to further mathematical research through broadly based programs in the mathematical sciences and closely related activities. 

SAMSI Events SAMSI (Statistical and Applied Mathematical Sciences Institute)
http://www.samsi.info
Research Triangle Park, North CarolinaSAMSI is a national institute whose vision is to forge a new synthesis of the statistical sciences and the applied mathematical sciences with disciplinary science to confront the very hardest and most important data- and model-driven scientific challenges. 

Partiview & Ndaona: A good way to study Machine Learning

Partiview is a piece of software for interactive 4D-viewer dataset. It is also useful for 3D visualization of dataset in Machine Learning algorithm, i.e. show manifolds or classification results.

Ndaona is a piece of Matlab functions for Partiview-compatible data conversion.

Downloads

• PartiView can be reached here (binaries + source codes)
• Ndaona is here

Screenshots

I borrow some screenshots from Ndaona’s website to illustrate here:

How well a linear svm (in LIBSVM) classifies Mandarin tones

How well does Principal Components Analysis separate faces

Resources on Manifold Learning, Riemanian/Differential Geometry, and Spectral Graph Theory

• Partha Niyogi video lecture: tutorial on Geometric Methods for Manifold Learning: This lecture presents some innovations in manifold learning with the center of concentration is the Laplacian methods. A little flavour of differential geometry is presented (tangent space, gradient, tangent vector, Laplace-Beltrami operator) for audience to be able to cover various methods (LLE, ISOMAP, LE, Diffusion Maps,…). Not a very comprehensible lecture.
• Workshop on Multi-Manifold Data Modeling and Applications (IMA): various topics but bad video recording.
• The unreasonable effectiveness of mathematics in the natural sciences, On teaching mathematics
• Book: The Laplacian on Riemanian Manifold. The book can also be downloaded freely at Steve Rosenberg’s homepage. This book is highly rated but it is not for newbie. Personally, I think a course on Differential Geomtry or an introduction on Manifold is prerequisite.
• A List of Differential Geometry Books
• Refrences for Differentiable Manifolds:
  • Lee Introduction to Smooth Manifolds Springer 2003. Can be downloaded from torrent.
  • Boothby An introduction to differentiable manifolds and Riemannian geometry Acad. Press 2002. Need some prerequisite knowledge on Algebram Multivariate Calculus, and Topology.
  • Spivak A Comprehensive Introduction to Differential Geometry Vol I-II Publish & Perish 1999
• A couple of classical undergraduate texts are
  • Spivak Calculus on Manifolds Benjamin 1965. A booklet with 160 pages of real analysis and one chapter of manifold at the end. Published in 1965. Solutions to problems are HERE
    
  • Munkres Analysis on Manifolds Westview Press 1991: A not-so-long textbook with self-explained concepts from elementary topology, real analysis, to manifolds with Stokes’ theorem on intergration. Highly recommendation.
  • This is the course that use Spivak’s and Munkres’ books 18.101 Analysis II MIT Math
• A wikipedia site on Manifold Atlas
• Wulf Rossman, Lecture on Differential Geometry

Manifold learning