Nació en Roma en el seno de la noble familia Anicia. Recibido en el clero, desempeñó las obligaciones inferiores del ministerio en las Iglesias de San Juan y San Pablo. Tenía una fe fermísima y se dedicaba con tesón a la realización de su ministerio, según nos testimonian las numerosas cartas que han quedado de él. Su gran santidad le recomendó al amor y estimación de cuantos le conocían, y muerto el Papa Juan II el 26 de abril del 535, Agapito, que a la sazón era arcediano, fue electo para ocupar aquella silla, y consagrado el 4 de mayo. Con la dulzura curó las heridas que habían hecho las disensiones y el desgraciado cisma de Dioscoro contra Bonifacio II el año 529.

   Informado de su elección el emperador Justiniano, le envió una profesión de su fe, que el Papa recibió como ortodoxa, y en cumplimiento de sus solicitudes, condenó a los monjes Acemetas de Constantinopla que estaban infectados de la herejía nestoriana. Habiendo sido depuesto Hilderico, rey de los vándalos en Africa, por Gilimerico, Justiniano se valió de aquella ocasión para romper la alianza que el emperador Zenon había hecho con Genserico, y el año 533, el séptimo de su reinado, envió al Africa a Belisario con una armada de quinientas velas.

   Aquel experimentado general hizo con mucha facilidad la conquista de aquel país, y tomó a Cártago casi sin oposición, Justiniano envió a las iglesias de Jerusalén los vasos del antiguo templo judaico, que Tito en su tiempo había llevado a Roma, y que Genserico había conducido de aquí a Cartago. Después de haber restablecido el gobierno temporal del Africa, el emperador restituyó sus iglesias a los católicos, y los obispos arrianos que se habían vuelto a la fe católica pudiesen retener sus sillas. Agapito respondió que en este punto no podía proceder contra los cánones, y que los obispos arrianos debían quedar satisfechos y contentos con haber sido admitidos en la Iglesia Católica, sin pretender además de esto volverse a introducir entre el clero ni tener dignidad eclesiástica. Habiendo el emperador erigido la ciudad de Justinianea, cerca del lugar de su nacimiento, suplicó al Papa que hiciese vicario suyo en llírico al nuevo obispo de esta silla.

   Entre tanto como Teodato, rey de los godos de Italia, llegase a entender que Justiniano hacía grandes preparativos para una expedición contra aquel reino con ánimo de recobrarlo, obligó al Papa Agapito a hacer un viaje a Constantinopla para disudirle de semejante proyecto. Al mismo tiempo los abades de Constantinopla escribieron al Papa informándole de los desórdenes y riesgos habidos en aquella Iglesia. Muerto Epifanio, Patriarca de aquella ciudad el año 535, por intrigas de la emperatriz Teodora fue llamado a aquella silla Antimo, obispo de Trebisonda. Él era tenido por católico, pero en realidad era enemigo solapado del Concilio Calcedonense como la emperatriz misma.

   La promoción de Antimo a Constantinopla animó tanto a los Acéfalos, que Severo, falso patriarca de Antioquía, y otros príncipes de la secta, marcharon inmediatamente a ella, y llenaron de confusión aquella Iglesia. Agapito respondió a aquellos abades, que él mismo iba en persona a Constantinopla, donde podían esperar su llegada. San Gregorio el Magno cuenta que este buen Papa en su jornada al Oriente, curó a un hombre tullido y mudo diciendo una Misa por él. San Agapito, pues, llegó a Constantinopla el 2 de febrero del año 536, y fue recibido con respeto por el emperador. El Papa habló al príncipe y le instó mucho acerca del negocio que allí le había llevado: pero Justiniano había ya procedido muy adelante para que fuese fácil volverse atrás del proyecto contra Italia, por lo cual principió San Agapito a tratar de los asuntos religiosos.

   Rehusó absolutamente admitir a Antimo a su comunión como se suscribiese públicamente al Concilio Calcedonense, y que no permitiese de modo alguno su traslación a la silla de Constantinopla. La emperatriz interpuso todo su poder y todos sus artificios para ganar este punto: el emperador también se lo suplicó con promesas, y quiso luego exigirlo con amenazas, más el Papa se mantuvo inflexible, y al fin Antimo tuvo que volverse a Trebisonda temiendo ser compelido al recibir el Concilio de Calcedonia. Sin embargo el Papa le declaró excomulgado si no se declaraba católico por medio de la suscripción a aquel sínodo; cuya firmeza trajo sobre el Papa todo el furor del partido eutiquiano y de la emperatriz.

   Su constancia no obstante inutilizó sus esfuerzos, y Mennas, sujeto tan recomendable por su sabiduría como por su piedad, fue elegido patriarca de Constantinopla, y consagrado tal por el Papa. Se pusieron en manos de San Agapito varias solicitudes relativas a quejas y acusaciones de crímines y herejías que se imputaban a Severo y a algunos otros obispos del partido de los Acéfalos, las que preparaba el Papa para ser examinadas en un concilio a tiempo que cayó enfermo y murió en Constantinopla el 17 de abril del año 536. Su cuerpo fue trasladado a Roma y sepultado en la Iglesia de San Pedro en el Vaticano el 20 de septiembre del mismo año.