보통 중앙의 코어(core)라고 하는 부분을 주변에서 클래딩(cladding)이라고 하는 부분이 감싸고 있는 이중원기둥 모양을 하고 있다. 그 외부에는 충격으로부터 보호하기 위해 합성수지 피복을 1~2차례 입힌다.

보호피복을 제외한 전체 크기는 지름 백~수백 μm(1 μm은 1/1000 mm)로 되고, 코어 부분의 굴절률이 클래딩의 굴절률보다 높게 되어 있어서, 빛이 코어 부분에 집속되어 잘 빠져나가지 않고 진행할 수 있게 되어 있다.

코어의 지름이 수 μm인 것을 단일모드 광섬유, 수십 μm인 것을 다중(多重) 모드 광섬유라 하고, 코어의 굴절률 분포에 따라 계단형·언덕형 광섬유 등으로 나눈다.