Podľa najstarších informácií knižnicu pôvodne zorganizoval Demetrius z Falerónu, Aristotelov študent, za vlády Ptolemaia I. Sotera (asi 367 pred n. l. - asi 283 pred n. l.).
Súčasťou knižnice boli peripatos (prechádzka), záhrady, miestnosť na spoločné stolovanie, čitáreň, prednáškové sály a zasadacie miestnosti. Presné usporiadanie však nie je známe. Vplyv tohto modelu možno dodnes pozorovať v usporiadaní univerzitných areálov. O samotnej knižnici je známe, že mala akvizičné oddelenie (možno postavené v blízkosti komínov alebo pre úžitok bližšie k prístavu) a oddelenie katalogizácie. V hale sa nachádzali police na zbierky zvitkov (keďže knihy boli v tomto období na papyrusových zvitkoch), známe ako bibliothekai (βιβλιοθῆκαι). Povrávalo sa, že do steny nad policami bol vytesaný známy nápis: Miesto liečby duše.
Bola to prvá známa knižnica, ktorá zhromaždila rozsiahlu zbierku kníh spoza hraníc svojej krajiny. Knižnica mala za úlohu zhromažďovať všetky vedomosti sveta. Robila to prostredníctvom agresívneho a dobre financovaného kráľovského mandátu, ktorý zahŕňal cesty na knižné veľtrhy na Rodose a v Aténach a politiku sťahovania kníh z každej lode, ktorá priplávala do prístavu. Ponechávali si originálne texty a vytvárali kópie, ktoré posielali späť ich majiteľom. Alexandria vďaka svojmu umelému obojsmernému prístavu medzi pevninou a ostrovom Faros vítala obchod z Východu i Západu a čoskoro sa stala medzinárodným centrom obchodu, ako aj popredným výrobcom papyrusu a čoskoro aj kníh.
V knižnici pôsobilo aj množstvo zahraničných vedcov. Knižnica sa plnila novými dielami z oblasti matematiky, astronómie, fyziky, prírodovedy a ďalších odborov. Práve v Alexandrijskej knižnici sa po prvý raz objavila vedecká metóda, ktorá sa začala uplatňovať v praxi, a jej empirické normy sa uplatnili v serióznej kritike textov. Keďže ten istý text často existoval v niekoľkých rôznych verziách, porovnávacia textová kritika bola rozhodujúca pre zabezpečenie ich správnosti. Po zistení tejto skutočnosti sa vyhotovovali kópie pre učencov, kráľovské rodiny a bohatých bibliofilov na celom svete, pričom tento obchod prinášal knižnici príjmy. Editori Alexandrijskej knižnice sú obzvlášť známi svojou prácou na homérskych textoch. Známejší editori mali spravidla aj titul hlavného knihovníka. Patrili k nim okrem iných napr,
- Zenodotos (začiatok tretieho storočia pred n. l.)
- Kallimachos (začiatok tretieho storočia pred n. l.), prvý bibliograf a tvorca Pinakes - prvého knižničného katalógu.
- Apollónius z Rodosu (polovica tretieho storočia pred n. l.)
- Eratosthenes (koniec tretieho storočia pred n. l.)
- Aristofanes z Byzancie (začiatok druhého storočia pred n. l.)
- Aristarchos zo Samothrákie (koniec 2. storočia pred n. l.).
- Euklides.
Zbierka knižnice, ktorá bola slávna už v antickom svete, sa v neskorších rokoch stala ešte slávnejšou. Zbierku tvorili papyrusové zvitky, a hoci sa pergamenové kódexy používali prevažne ako pokročilejší písací materiál, po roku 300 pred Kr.
Jeden spis môže zaberať niekoľko zvitkov. Kráľ Ptolemaios II. filadelfský (309 - 246 pred n. l.) údajne stanovil ako cieľ pre knižnicu 500 000 zvitkov. Marek Antonius údajne dal Kleopatre ako svadobný dar vyše 200 000 zvitkov (pochádzajúcich z veľkej Pergamskej knižnice) pre knižnicu. Carl Sagan vo svojom seriáli Kozmos uvádza, že knižnica obsahovala takmer milión zvitkov, hoci iní odborníci odhadujú menší počet. Žiadny súpis knižnice sa nezachoval a nie je možné s istotou zistiť, aká veľká a rozmanitá mohla byť zbierka.
Možno prehnaný príbeh sa týka toho, ako sa knižničný fond tak rozrástol. Podľa nariadenia egyptského kráľa Ptolemaia III. museli všetci návštevníci mesta odovzdať všetky knihy a zvitky. Úradní pisári potom tieto spisy rýchlo prepisovali, pričom niektoré kópie boli také presné, že originály sa uložili do knižnice a kópie sa doručili nič netušiacim majiteľom. Tento proces tiež pomohol vytvoriť zásobu kníh v relatívne novom meste.
Podľa Galéna požiadal Ptolemaios III. Aténčanov o povolenie požičať si originály Aischylových, Sofoklových a Euripidových scenárov, za čo Aténčania požadovali obrovskú sumu pätnástich talentov ako záruku. Ptolemaios s radosťou zaplatil poplatok, ale originály skrípt si ponechal pre knižnicu.
Alexandrijská knižnica bola slávnostne otvorená v roku 2002 v blízkosti miesta starej knižnice.