Unit yang dikirim dalam jaringan IP adalah IP datagram. Dimana didalamnya terdapat header dan data yang berhubungan dengan layer diatasnya.

Gambar 4.6 Format IP Datagram
Dimana:
- VERS : versi dari IP yang digunakan. Versi 4 artinya menggunakan IPv4, 6 artinya IPv6.
- HLEN : panjang dari IP header
- Service : no urut quality of service (QoS)
- Total Length : jumlah dari IP datagram
- ID : nomer data dari pengirim apabila terjadi fragmentasi
- Flags : penanda fragmentasi
- Fragment offset : no urut data fragmen bisa data telah di fragmentasi
- Time to Live (TTL) : lama waktu data boleh berada di jaringan, satuan detik
- Protocol : nomer dari jenis protokol yang digunakan
- Header checksum : digunakan untuk pengecekan apabila data rusak
- Source IP address : 32 bit alamat pengirim
- Destination IP Address : 32 bit alamat tujuan
- IP options : digunakan apabila data diperlukan pengolahan tambahan
- Padding : digunakan untuk membulatkan jumlah kolom IP options menjadi 32
- Data : data yang dikirimkan berikut header di layer atasnya.
Fragmentasi
Dalam perjalanannya menuju tujuan, data akan melewati berbagai macam interface yang berbeda. Dimana masing-masing interface memiliki kemampuan yang berbeda untuk mengirimkan frame data. Kemampuan ini disebut Maximum Transfer Unit (MTU). Batas maksimum data dapat ditempatkan dalam 1 frame.
IP dapat memisahkan data yang terkirim menjadi sebesar MTU. Proses pemisahan ini disebut fragmentasi (fragmentation).