Khác với mô hình OSI là sự kết nối giữa mạng và người dùng cuối, mô hình TCP/IP là một giao thức truyền thông cho phép kết nối trực tiếp đến Internet. Mô hình TCP/IP chỉ có 4 tầng, bao gồm: Network Access, Internet, Transport và Application
Có thể coi mô hình TCP/IP chính là bản rút gọn của mô hình OSI, với 2 tầng vật lý và data link kết hợp thành network access, và 3 tầng session, presentation cùng với application chỉ còn application.
1. Tầng Network Access
Trong quan điểm của nhiều người, tầng Network Access của mô hình TCP/IP vẫn bao gồm 2 tầng Physical và Data Link. Tầng physical là hạ tầng phần cứng của mạng, với hệ thống thiêt bị mạng, dây nối, hoặc các liên kết viễn thông, cung cấp phương tiện phục vụ cho việc truyền tín hiệu ở dạng bit, thực hiện biến đổi dạng dữ liêu từ dạng sóng mang sang dạng bit, mã hóa và giải mã dữ liệu,... Trong khi đó, tầng data link sẽ chịu trách nhiệm liên kết dữ liệu ở tầng vật lý với tầng trên, với việc đóng gói các packet thành frame phù hợp để truyền đi. 2 giao thức chính được sử dụng cho nhiệm vụ đó là LLC - Logical Link Control và MAC - Media Access Control trong bộ tiêu chuẩn Ethernet.
Thiết bị chính ở tầng này chính là Switch layer 2, với chức năng là chuyển mạch, hay cụ thể hơn thì chính là các frame - tên gọi của dữ liệu ở tầng Data Link của cả mô hình OSI và TCP/IP
2. Tầng Network
Nhiệm vụ chủ yếu của tầng Network bên cạnh việc chuyển đổi dữ liệu là định tuyến cho đường đi của các gói tin. Thông qua nó, ta có thể đặt được địa chỉ IP cho các thiết bị đầu cuối. Giao thức chính được sử dụng tại đây chính là IPv4, IPv6 và ICMP.
3. Tầng Transport
Đúng như cái tên của mình, tầng Transport làm nhiệm vụ vận chuyển thông tin từ nguồn tới đích. Dữ liệu nhân được từ tầng Application chuyển xuống thông qua các cổng dịch vụ, rồi đóng gói lại bằng giao thức TCP hoặc UDP để chuyển đi. Với cơ chế phân mảnh dữ liệu, nó có thể truyền nhiều dịch vụ, giúp tiết kiệm băng thông đường truyền, cũng như việc truyền dữ liệu hay sửa lỗi trở lên dễ dàng hơn
4. Tầng Application
Tầng ứng dụng là tầng trên cùng của mô hình TCP/IP, chịu trách nhiệm giao tiếp giữa 2 máy với nhau thông qua các dịch vụ mạng. Những giao thức thường được dùng ở tầng này bao gồm FTP, HTTP, HTTPS.