Nhưng kể từ khi bóng đá Việt Nam bước lên chuyên nghiệp, các đội bóng Công an dần mai một. Phần do cơ chế, nhưng cái chính vẫn là khả năng chuyển đổi không theo kịp thời cuộc. Công an Hà Nội năm 2003 được chuyển giao cho Hàng không Việt Nam sau đó được sáp nhật với Hà Nội ACB để trở thành câu lạc bộ LG Hà Nội ACB. Đến năm 2006, đổi tên thành Câu lạc bộ bóng đá Hà Nội ACB. Công an thành phố Hồ Chí Minh giải thể năm 2002, hầu hết cầu thủ sang khoác áo Ngân hàng Đông Á đến năm 2004 phải xuống chơi ở giải hạng Nhất rồi lại bán suất cho Sơn Đồng Tâm Long An.
Hầu hết các đội bóng Công an sau nhiều lần chuyển giao, thay tên đổi áo dần trở thành dĩ vãng. Phải đợi đến năm năm 2008, bóng đá Công an Nhân dân mới trở lại với sự góp mặt của các cầu thủ kỳ cựu như Minh Hiếu, Thanh Châu, Quốc Khánh, Trung Phong, Tuấn Thành của Công An Hà Nội trước đây, hay Thiện Quang, Tuấn Hải của Công an thành phố Hồ Chí Minh, Trường Giang, Quang Hợp, Tuấn Điệp từ Công an Hải Phòng... đăng ký thi đấu tại giải hạng Ba sau đó lấy suất thi đấu ở giải hạng Nhì của Quân khu 7. Mùa bóng 2011, Công an Nhân dân phải xuống lại hạng Ba và mượn suất của Hà Tĩnh để góp mặt tại giải hạng Nhì 2012 đến năm 2014 được lên hạng Nhất.
Thăng trầm mãi tới năm 2019, Công an Nhân dân lại phải xuống đá ở giải hạng nhì và trầy trật mãi tới cuối mùa bóng 2020 mới được đặc cách lên chơi ở giải hạng Nhất sau khi câu lạc bộ Gia Định trả lại vé thăng hạng. Quyết định làm lại với lứa cầu thủ trẻ, trong đó có 4 cầu thủ từng góp mặt tại đội tuyển U19 Việt Nam. Sau khi có “Đề án phát triển câu lạc bộ bóng đá Công An Nhân Dân theo hướng chuyên nghiệp” mùa giải 2022, với sự dẫn dắt của huấn luyện viên Thạch Bảo Khanh, đội bóng đã giành quyền lên chơi ở V.League 2023 trước 1 vòng đấu.
Sau gần 20 năm kể từ khi hai đội Công an Hà Nội và Công an thành phố Hồ Chí Minh phải giải thể và chuyển giao, bóng đá Công an Nhân dân đã trở lại V.League với khí thế và tinh thần mới. Công an Nhân dân mùa này nhận được sự chi viện rất lớn từ hai câu lạc bộ mạnh, Hoàng Anh Gia Lai và Hà Nội với hơn chục cầu thủ trẻ, trong đó có nhiều trụ cột như Thanh Sơn, Thanh Bình, Minh Bình hay Tiến Long, Tuấn Anh, Văn Đạt…
Sân chơi V.League hoàn toàn khác với giải hạng Nhất, với một đội bóng tân binh như Công an Nhân dân để trụ lại được vẫn luôn là thử thách. Ngoài việc nâng cấp đội bóng, chuẩn bị lực lượng đặc biệt là bổ sung ngoại binh chất lượng, Công an Nhân dân còn phải đáp ứng đầy đủ các tiêu chuẩn cấp phép thi đấu của câu lạc bộ chuyên nghiệp theo quy định của Liên đoàn Bóng đá Việt Nam. Đây chính là vấn đề nan giải bởi ngay cả sân Ninh Bình đội bóng đang mượn để đá giải hạng Nhất cũng sẽ phải nâng cấp theo chuẩn V.League, ngoài ra câu lạc bộ còn phải duy trì hệ thống đào tạo trẻ và có đủ tiềm lực tài chính.
Giành được suất thăng hạng mới chỉ là sự khởi đầu và sẽ còn rất nhiều việc phải làm để Công an Nhân dân có thể góp mặt ở sân chơi chuyên nghiệp.