CLAUDE SHANNON
NHÀ KHOA HỌC ĐẶT NỀN MÓNG CHO THỜI ĐẠI SỐ
Nguyễn Trung Dân
Nguyễn Xuân Xanh trình bày và viết Lời bạt
Claude Shannon (30. 4, 1916 – 24. 2, 2001, hưởng thọ age 84 tuổi), một nhà toán học và kỹ sư điện mà công trình nghiên cứu về truyền thông đã đặt nền móng cho lý thuyết thông tin hiện đại và góp phần khởi xướng cuộc cách mạng kỹ thuật số. Ông được xem là cha đẻ của thời đại thông tin.
Nửa trang đầu của bài báo lịch sử của lý thuyết thông tin của Claude Shannon năm 1948, đăng trên “The Bell System Technical Journal”, Volume XXVII, số 3, Tháng Bảy, 1948.
Mỗi lần gửi tin nhắn trên Zalo, xem video trên YouTube, nghe nhạc trực tuyến hay lưu ảnh trong điện thoại, chúng ta đều đang tận hưởng các thành tựu công nghệ ra đời từ các nguyên lý mà Shannon đặt nền móng gần 80 năm trước.
Làm thế nào mà mọi bài hát, bộ phim, tin nhắn và cuộc gọi trên thế giới đều có thể biến thành những dãy số 0 và 1?
Trong lịch sử phát triển khoa học và công nghệ của nhân loại, hiếm có người nào có vai trò đăc biệt như Claude Shannon. Ông vừa là người đặt nền tảng cho lĩnh vực khoa học mới, vừa đóng góp trực tiếp cho phát triển các lĩnh vực công nghệ. Viện Kỹ thuật Điện và Điện tử (IEEE) danh tiếng của Mỹ có nhiều bài viết về Shannon, trong đó có bài vinh danh ông “là một trong số các kỹ sư vĩ đại nhất của thế kỷ 20 nhưng là người đóng góp nhiều nhất cho công nghệ của thế kỷ 21”[1].
Shannon sinh năm 1916 tại Gaylord, Michigan. Tốt nghiệp Đại học Michigan hai chuyên ngành toán và kỹ thuật điện, năm 1936 Shannon đến làm nghiên cứu sinh tại Viện Công nghệ Massachusetts (MIT). Tại đây, sau cuộc thảo luận về các hệ thống điều khiển điện phức tạp với một chuyên gia của Bell Labs, Shannon đã chứng minh trong luận án thạc sỹ của mình rằng đại số nhị phân (do nhà toán học người Anh George Boole phát minh vào giữa những năm 1800) có thể phân tích chính xác các hệ thống điều khiển điện tử. Đại số nhị phân hay còn gọi là đại số Boolean, là hệ thống toán học chỉ sử dụng số 0 và 1, tương ứng với trạng thái đúng/sai, hoặc on/off. Chính vì các chuyển mạch điện (trong hệ thống điều khiển) cũng chỉ có hai trạng thái cơ bản là bật/tắt nên Shannon nhận ra chúng có thể được mô tả bằng cùng một ngôn ngữ toán học. Luận án này được coi là nền tảng của thiết kế mạch kỹ thuật số kể cả thiết kế chip bán dẫn sau này.
Đưa ra cách đo lường nội dung và tốc độ thông tin
Luận văn thạc sĩ của chàng trai 21 tuổi sau này được các nhà sử học đánh giá “có lẽ là luận án thạc sĩ quan trọng nhất trong lịch sử kỹ thuật”, nhưng Shannon khiêm tốn tới mức thường hạ thấp ý nghĩa của nó. “Chẳng qua lúc bấy giờ không ai khác quen thuộc cả hai lĩnh vực đại số Boolean và mạch điện”.[2]
Một thập kỷ sau đó, năm 1948 Shannon đã công bố một kiệt tác của mình “Một Lý thuyết Toán về Thông tin”. Đó được coi là một trong những bài báo vĩ đại nhất trong lịch sử kỹ thuật, và chính là nền tảng khoa học của công nghệ thông tin sau này. Lần đầu tiên ông đã đưa ra cách đo lường nội dung thông tin và tốc độ tối đa mà thông tin có thể được truyền đi. Đóng vai trò trung tâm của lý thuyết là khái niệm ‘bit’ (các số 0 và 1 trong đại số nhị phân). Bit trở thành đơn vị cơ bản của thông tin và chúng có thể đo đếm được. Trước đó, người ta hầu như chưa hề có ý niệm rõ ràng nào về thông tin, coi đó là một khái niệm trừu tượng, không đo đếm được bằng thực nghiệm. Cũng giống như Newton đã mô tả chuyển động của mọi vật thể bằng các phương trình toán học, Shannon đã biến “thông tin”, vốn được xem là một khái niệm mơ hồ, thành thứ có thể đo đếm, tính toán và tối ưu hóa.
Công trình này đã gây chấn động không chỉ bởi vì Shannon đã kiến tạo nên một ngành khoa học hoàn toàn mới gần như từ con số không mà còn bởi sự ra đời bất ngờ của nó. Trong suốt nhiều năm trời, ông hầu như chẳng hề hé răng nói với bất kỳ ai về công trình mà ông đã dành trọn gần một thập kỷ để nghiên cứu và hoàn thiện.
Một kết quả bất ngờ vào thời đó từ lý thuyết thông tin của Shannon là bất kể bản chất của thông tin là gì – một bài thơ, một bản nhạc giao hưởng hoặc một bộ phim thì cách tối ưu nhất để truyền đi là số hóa chúng thành các bit ‘0 và 1’ rồi chuyển chúng thành tín hiệu điện từ để truyền đi, thu nhận và xử lý. Lý thuyết này chính là nền tảng của kỹ thuật số hiện đại, trong đó ‘bit’, vốn trước đó không ai biết, trở nên siêu quan trọng và là đơn vị phổ quát của mọi hệ thống thông tin.
Một số người đã đặt tầm quan trọng của công trình này ngang hàng với thuyết tương đối của Einstein, và bản thân Shannon đã bác bỏ điều đó. Trong một bức thư giới thiệu trước khi xuất bản vào đầu những năm 1950, ông thậm chí còn yêu cầu một nhà báo loại bỏ bất kỳ so sánh lý thuyết của ông với ý tưởng của Einstein về thuyết tương đối: “Tôi ước gì nó được như thế,” ông than thở, “lý thuyết thông tin chắc chắn không sánh được với thuyết tương đối và cơ học lượng tử.”
Nếu lý thuyết thông tin là thành tựu duy nhất của Shannon, thì nó đã đủ để đảm bảo vị trí của ông trong ngôi đền khoa học và công nghệ của nhân loại. Nhưng ông đã làm được nhiều hơn thế nữa.
Cũng chính Shannon khi mới 21 tuổi đã chỉ ra trong “luận án thạc sĩ quan trọng nhất lịch sử kỹ thuật” của mình rằng đại số nhị phân với các ‘bit’ 0 và 1 có thể phân tích chính xác toàn bộ hoạt động của các mạch logic. Từ đó, ông đã phát minh ra các cổng logic (logic gates AND, OR, NOT và CNOT…) là các thành phần cơ bản nhất của tất cả các mạch điện kỹ thuật số mà toàn bộ tòa lâu đài khoa học máy tính được xây dựng trên đó. Công trình này cũng chính là nền tảng cơ sở của khoa học máy tính và trở thành bệ phóng cho công nghệ tin học bùng nổ những năm sau đó.
Với nhiều người như cựu chủ tịch của Hiệp hội Lý thuyết Thông tin của IEEE, GS Solomon Golomb thì ảnh hưởng của Shannon với công nghệ thông tin “Giống như nói đến mức độ ảnh hưởng của người phát minh ra bảng chữ cái đối với văn học vậy”[3].
Quote: Ảnh hưởng của Shannon với công nghệ thông tin giống như nói đến mức độ ảnh hưởng của người phát minh ra bảng chữ cái đối với văn học.
Claude Shannon vẫn tìm thấy thời giờ để làm toán trong chiến tranh trong thời kỳ làm việc ở Bell Labs. Ảnh của IEEE Spectrum [3]
Nhà khoa học khiêm tốn đến mức e thẹn khi phải nói về mình
Sau khi hoàn thành luận án tiến sĩ ở MIT, năm 1940 Shannon đến làm việc một năm tại Viện nghiên cứu Cao cấp ở đại học Princeton. Shannon nhớ lại một lần ông đang trình bày báo cáo thì đột nhiên nhà khoa học huyền thoại Einstein bước vào phòng họp. Einstein nhìn Shannon, thì thầm nói gì đó với một nhà khoa học, và rời đi. Sau bài báo cáo của mình, Shannon vội vã chạy đến chỗ nhà khoa học kia và hỏi xem Einstein đã nói gì về mình. Hóa ra nhà vật lý vĩ đại hỏi “trà để ở đâu”, Shannon kể lại và bật cười. Shannon kể lại câu chuyện đó nhiều năm sau với vẻ thích thú, như một minh họa cho tính cách hài hước và không quá coi trọng bản thân của ông.
Shannon gia nhập Bell Labs vào năm 1941. Trong Thế chiến II, ông là thành viên của một nhóm phát triển các hệ thống mã hóa kỹ thuật số, trong đó có hệ thống mà tổng thống Roosevelt sử dụng cho các cuộc điện đàm xuyên đại dương với thủ tướng Churchill. Shannon đã tóm tắt công việc về thông tin liên lạc bí mật trong một tài liệu dài 114 trang, ‘Một Lý Thuyết Toán Học Của Mật Mã’ năm 1945. Bài báo ngay lập tức bị xếp vào tối mật, quá nhạy cảm không thể xuất bản.
Shannon cho biết chính công việc này đã dẫn ông đến việc phát triển lý thuyết thông tin của mình. Tuy nhiên, mãi đến những năm 1970 – với sự ra đời của mạch tích hợp điên tử và các chip bán dẫn tốc độ xử lý cao – các kỹ sư mới bắt đầu khai thác lý thuyết thông tin một cách toàn diện và đầy đủ. Những hiểu biết lúc bấy giờ của Shannon giúp định hình hầu như tất cả các hệ thống mật mã, lưu trữ giữ liệu, xử lý hoặc truyền thông tin dưới dạng kỹ thuật số ngày nay.
Lời tiên đoán về trí tuệ nhân tạo
Năm 1950, Shannon công bố trên tạp chí Scientific American một nghiên cứu mô tả cách lập trình cho máy tính chơi cờ vua. Ông đã đi sâu vào cách thiết kế chương trình máy tính với các cấu trúc dữ liệu được lưu giữ trong bộ nhớ, ước tính số bit cần thiết cho bộ nhớ và chia nhỏ chương trình thành những phần mà ông gọi là chương trình con. Đó cũng là các kiến thức cơ bản mà bất cứ người lập trình nào ngày nay cũng phải nắm. Shannon đã làm tất cả những điều này vào thời điểm mà cả thế giới chỉ có chưa đến 10 chiếc máy tính còn hết sức thô sơ.
Theo lời kể của các đồng nghiệp cũ, trong quá trình tìm hiểu để chế một cỗ máy tính biết chơi cờ vua Shannon đã trở nên đam mê chơi cờ ngay tại phòng làm việc, đến nỗi “người phụ trách của ông trở nên lo lắng”. Shannon hồn nhiên và vui vẻ nói “Tôi luôn theo đuổi sở thích của mình mà không quan tâm nhiều đến giá trị cuối cùng hoặc đối với thế giới xung quanh. Tôi đã dành nhiều thời gian cho những thứ hoàn toàn vô ích”.
Vào lúc bấy giờ, không có sẵn máy tính để ông kiểm tra các ý tưởng của mình về máy chơi cờ. Mãi đến năm 1955, Arthur Samuel, một kỹ sư của IBM, người có nhiệm vụ thử các máy tính của IBM trước khi giao chúng cho khách hàng, đã chạy một chương trình chơi cờ sử dụng phương pháp của Shannon. Năm 1959 Samuel đã công bố một bài báo về phương pháp đó của Shannon với tiêu đề lần đầu tiên có cụm từ “machine learning (máy học)”, một thuật ngữ quen thuộc với ngững người làm về công nghệ AI ngày nay. Không phải ngẫu nhiên mà chiếc máy tính Deep Blue của IBM đã đánh bại đại kiên tướng, vô địch cờ vua Garry Kasparov năm 1997.
Ông cũng tự chế tạo một cỗ máy có thể đánh bại bất kỳ người chơi cờ nào trong một trò chơi với bàn cờ có tên là Hex[4]. Thực ra, Shannon đã khéo léo chỉnh lại bàn cờ làm cho bên của người chơi có nhiều ô hơn. Với một vài mẹo tinh vi khác chiếc máy chơi tự động của Shannon đã dánh bại tất cả kỳ thủ tham gia thi đấu. Andrew Gleason, một nhà toán học lỗi lạc của đại học Harvard, đã thách đấu và tuyên bố rằng không cỗ máy nào có thể đánh bại được ông. Chỉ đến khi Gleason, sau khi bị đánh bại tơi tả, đòi một trận tái đấu, Shannon mới tiết lộ bí mật của cỗ máy.
Shannon đã gợi ý rất sớm rằng việc áp dụng lý thuyết thông tin vào các hệ thống sinh học có thể không phải là điều quá xa vời. Ông nói rằng “Hệ thần kinh là một hệ thống giao tiếp phức tạp và nó xử lý thông tin theo những cách phức tạp”. Khi được hỏi liệu ông có nghĩ rằng máy móc có thể “suy nghĩ” hay không, ông trả lời: ” Tôi là một cỗ máy và bạn cũng là một cỗ máy, và cả hai chúng ta đều suy nghĩ, đúng không?”
Khi nói về triển vọng của trí tuệ nhân tạo, Shannon lưu ý rằng máy tính những năm 1970 mặc dù có sức mạnh phi thường, vẫn “chưa đạt đến trình độ con người” về mặt xử lý thông tin, và nói thêm rằng “với tôi, chắc chắn là trong vài thập kỷ nữa, máy móc sẽ vượt xa con người”.
Từ cuối những năm 1950 trở đi, Shannon công bố rất ít và hiếm khi xuất hiện. Mãi cho đến năm 1985 ông bất ngờ đến dự Hội nghị lý thuyết thông tin quốc tế ở Brighton, Anh. Khi tin tức lan truyền khắp các phòng họp rằng người đàn ông tóc trắng với nụ cười e thẹn, đi ra đi vào các phòng họp không ai khác chính là Claude Shannon, một số người tại hội nghị thậm chí còn không biết ông vẫn còn sống.
Tại bữa tiệc, những người tổ chức hội nghị đã thuyết phục được Shannon phát biểu trước cử tọa. Ông nói chỉ trong vài phút và sau đó sợ rằng mình đang làm mọi người chán, bèn rút ba quả bóng ra khỏi túi và bắt đầu tung hứng. Mọi người reo hò và xếp hàng để xin chữ ký. Giáo sư McEliece, chủ tịch hội nghị cho biết cảm tưởng của tất cả mọi người lúc đó “Giống như Newton xuất hiện tại một hội nghị vật lý vậy”.
Shannon đã nhận được trao nhiều giải thưởng cao quí, trong đó có National Medal of Science (giải thưởng danh giá nhất về khoa học ỏ Mỹ); Kyoto Prize (tương đương với giải Nobel của Nhật Bản); và Medal of Honor của IEEE (giải thưởng cao quí nhất về kỹ thuật). Ông mất năm 2001.
Nguyễn Trung Dân
Bang New York, 19/05/2026
[1] https://spectrum.ieee.org/celebrating-claude-shannon
[2] Sách “A Mind at Play: How Claude Shannon Invented the Information Age” (Simon & Schuster, 2017)
[3] https://spectrum.ieee.org/claude-shannon-tinkerer-prankster-and-father-of-information-theory
[4] Jon Gertner ‘The Idea Factory – Bell Labs and the Great Age of American Innovation’, THE PENGUIN PRESS, New York 2012
Lời bạt
Nguyễn Xuân Xanh
“(Bit) Một đơn vị dùng để đo lường thông tin”
— Claude Shannon
“It from bit”
“Nó (được làm) từ bit”
— John Archibald Wheeler
John A. Wheeler (sinh 9 tháng 7 năm 1911 – mất 13 tháng 4 năm 2008) giảng bài “thuyết trình về chủ đề “Vượt ra ngoài biên giới của thời gian” tại Đại học Missouri năm 1981.
Cụm từ “It from bit” được nhà vật lý Mỹ John Archibald Wheeler phát minh, có nghĩa là “Nó từ bit”, ngày nay là rất phổ biến. Wheeler có “biệt tài” phát minh nhiều khái niệm, chẳng hạn như “lỗ đen”, một từ hết sức quan trọng trong nghiên cứu các hiện tượng vũ trụ. “Nó” của Wheeler là một thực tại vật lý bất kỳ, còn bit là đơn vị của thông tin, viết tắt của “binary digit” chữ số nhị phân, là đơn vị thông tin kỹ thuật số nhỏ nhất. Nó có thể có giá trị là 0 hoặc 1. và bit là khối xây dựng cơ bản của tất cả các hệ thống truyền thông và tính toán kỹ thuật số. Wheeler đã phân loại ba giai đoạn phát triển của mình trong lĩnh vực vật lý: “Mọi thứ đều là hạt”, “Mọi thứ đều là trường (fields)” và “Mọi thứ đều là thông tin”. Giai đoạn thứ ba được thúc đẩy bởi sự suy ngẫm của ông về câu hỏi muôn thuở: “Sự tồn tại đến từ đâu?” Và câu trả lời của ông, lần đầu tiên được công bố trong một bài báo được viết rất hay (và rất thú vị) vào năm 1989, có tiêu đề “It từ bit“:
“Nó từ bit tượng trưng cho ý tưởng rằng mọi vật thể trong thế giới vật chất đều có nguồn gốc và lời giải thích phi vật chất – ở một mức độ rất sâu, trong hầu hết các trường hợp; rằng cái mà chúng ta gọi là thực tại cuối cùng phát sinh từ việc đặt ra các câu hỏi có-không và ghi nhận các phản hồi do thiết bị tạo ra; tóm lại, tất cả mọi thứ vật lý đều có nguồn gốc lý thuyết thông tin, và đây là một vũ trụ có sự tham gia (participatory universe).” ( trong Autobiography Geons, Black Holes, and Quantum Foam)
Có sự tham gia tức có con người tham gia. Điều này cũng tương tự như trong cơ học lượng tử, nơi các hạt electron không có đặc tính nhất định, cho đến khi nó được quan sát. Đó là cách diễn giải cơ học lượng tử theo trường phái Copenhagen của Niels Bohr và Werner Heisenberg.
Trong một bài báo mà Wheeler trình bày tại Viện Santa Fe năm 1989, ông đưa ra giả thuyết rằng “mọi thứ – mọi hạt, mọi trường lực, thậm chí cả continuum không gian-thời gian – đều có chức năng, ý nghĩa, sự tồn tại của nó hoàn toàn – ngay cả khi trong một số ngữ cảnh là gián tiếp – bắt nguồn từ các câu trả lời do thiết bị đưa ra cho các câu hỏi có hoặc không, tức các quyết định nhị phân, các bit,” tức có nguồn gốc từ các bit thông tin.
TÀI NĂNG và THIÊN TÀI
TÀI NĂNG (talent) là người giải được những vấn đề đã được đặt ra mà chưa ai giải được.
THIÊN TÀI (genius) là người giải được những vấn đề chưa hề có ai đặt ra.
— Arthur Schopenhauer, Nhà triết học Đức
Năm nay kỷ niệm 110 năm sinh nhật, và 25 năm ngày mất của Claude Shannon. Bài viết của anh Nguyễn Trung Dân rất phù hợp với sự kiện để nhắc nhở nguồn gốc của thông tin mà ứng dụng của nó hôm nay vô cùng phong phú đang bao trùm nền văn minh nhân loại. Bên cạnh khám phá “bit” của Claude Shannon tại Bell Labs năm 1948 thì chỉ một năm trước thôi, Phòng thí nghiệm này cũng đã có một phát minh cột mốc khác: chiếc transistor. Nó được thử nghiệm thành công vào ngày 16 tháng 12 và trình diễn vào ngày 23 tháng 12 bởi các nhà vật lý John Bardeen, Walter Brattain và William Shockley (giải Nobel sau đó). Thiết bị bán dẫn này đã thay thế các ống chân không cồng kềnh và khởi đầu cuộc cách mạng điện tử hiện đại. Cùng nhau, bit và transistor là hai phát minh mở đường cho mọi thứ từ viễn thông toàn cầu đến điện toán hiện đại, có ảnh hưởng vô cùng lớn lao lên nền văn minh nhân loại.
Khi Alan Turing đến thăm Bell Labs vào năm 1943 để trao đổi thông tin, ông thỉnh thoảng ăn trưa với Shannon trong căng tin và cả hai trao đổi những lý thuyết mang tính suy đoán về tương lai của điện toán và não bộ, trí tuệ máy móc (sau này được gọi là trí tuệ nhân tạo) và học máy. Các lý thuyết và công nghệ do họ phát triển đã biến đổi xã hội thành xã hội dựa trên thông tin và công nghệ như chúng ta trải nghiệm ngày nay.
Một phiên bản của transistor đầu tiên được phát minh ở Bell Labs, 23 tháng 12, 1947
Shannon cho rằng mình đã có “chuyến đi lạc hướng đặc biệt” của mình vào một lĩnh vực chưa được đặt tên, đầy rẫy những câu hỏi và khả năng, mà ông sớm đặt tên là “lý thuyết thông tin”, vậy mà sau này lại có ảnh hưởng bao trùm. Vì thế ông khuyến khích nhân viên của mình thực hiện, như James Gleick nói, “những chuyến đi lạc hướng vào toán học hoặc vật lý thiên văn mà không có mục đích thương mại rõ ràng”, chúng ta cần nhìn xa hơn ứng dụng thực tiễn trước mặt của “thành trì thương mại của công nghệ”. Đấy là văn hóa nghiên cứu, đổi mới sáng tạo của ông. James Gleick là tác giả của quyển sách rất nổi tiếng, thuộc loại “kinh điển”: The Information: A History, a Theory, a Flood.
Xin có mấy lời đóng góp vào đề tài rất thú vị của anh Nguyễn Trung Dân. Bài đã được đăng trên báo Tia Sáng gần đây. Chúng tôi được tác giả cho phép đăng lại ở dạng nguyên bản của tác giả có khác đôi chút với bản TS.
Nguyễn Xuân Xanh
Xem thêm:
