Oddziałowe Archiwum Instytutu Pamięci Narodowej w Warszawie pełni wyłącznie funkcję udostępniającą dokumenty zgromadzone w zasobie archiwalnym Instytutu Pamięci Narodowej. Tym samym jego działalność odróżnia się od funkcjonowania pozostałych oddziałowych archiwów IPN.
Zasadniczą różnicą jest, że Archiwum nie posiada własnego zasobu archiwalnego. Całość dokumentacji – zarówno pochodzącej z centralnych organów bezpieczeństwa państwa, jak i organów warszawskich oraz terenowych z obszaru dawnego województwa mazowieckiego – znajduje się w Archiwum Instytutu Pamięci Narodowej w Centrali.
Jednakże dokumentacja przechowywana w magazynach na ul. Kłobuckiej w Warszawie stanowi podstawowy materiał źródłowy, na podstawie którego prowadzone są kwerendy oraz realizowane są wnioski o udostępnienie akt.
Odrębność warszawskiego Oddziałowego Archiwum wynika również z jeszcze jednej istotnej kwestii, która nie jest regulowana wyłącznie przez regulamin organizacyjny IPN. W przypadku IPN, zgodnie z zapisami ustawy o Instytucie Pamięci Narodowej oraz wynikającego z niej Statutu IPN, właściwość miejscowa poszczególnych oddziałów IPN określana jest na podstawie właściwości sądów apelacyjnych. W przypadku większości teren działania oddziałowych archiwów pokrywa się z obszarem polskich województw ale nie województwa mazowieckiego.
Powyższe przypisy, oznaczają praktyce, że właściwość miejscowa Oddziałowego Archiwum IPN w Warszawie ogranicza się do miasta stołecznego Warszawy oraz najbliższej okolicy.
Natomiast niemal całe województwo mazowieckie zostało przypisane do innych oddziałów IPN:
- mieszkańcy Żyrardowa czy Mławy składają wnioski do Oddziałowego Archiwum IPN w Łodzi,
- mieszkańcy Wyszkowa – do Oddziałowego Archiwum IPN w Białymstoku,
- natomiast osoby z Siedlec czy Sulejówka – do Oddziałowego Archiwum IPN w Lublinie.
Ponadto warszawskie OA IPN realizuje wszystkie wnioski składane przez instytucje zagraniczne oraz osoby prywatne, które nigdy nie mieszkały na terytorium Rzeczypospolitej Polskiej.