Năm ấy, Mỹ bắt đầu can thiệp vào chiến tranh Đông Dương bằng cách hỗ trợ khí tài chiến tranh và đưa cả cố vấn quân sự giúp cho quân đội viễn chinh Pháp. 300 ngàn người đã xuống đường biểu tình chống thực dân Pháp, phản đối bọn can thiệp Mỹ, đuổi tàu chiến Mỹ ra khỏi cảng Sài Gòn. Như bao thanh niên khác, Phạm Xuân Ẩn có mặt ở điểm nóng của cao trào. Thời gian này, Phạm Xuân Ẩn làm thư ký cho một hãng xăng, sau đó làm ở hải quan, vừa để có điều kiện chăm sóc cha đang ốm nặng, vừa hoạt động cách mạng hợp pháp, nhưng ông vẫn dự định đến cuối năm 1951 sẽ vào luôn chiến khu để đi bộ đội vì ông đã được tham gia một khóa huấn luyện quân sự ngắn hạn từ năm 1945.
Nhưng giữa năm 1951, bác sĩ Phạm Ngọc Thạch, lúc đó là Xứ ủy viên Nam Bộ, gọi ông vào chiến khu nhận nhiệm vụ và dặn "vẫn phải giữ nguyên công việc như cũ, không được thoát ly". Tết năm 1952, ông vào chiến khu Đ gặp bác sĩ Phạm Ngọc Thạch và được giao làm công tác... tình báo chiến lược. Ông vô cùng thất vọng.“Truyền thống gia đình tôi ghét nhất là tình báo, mật vụ, cảnh sát. Hồi nhỏ do quậy phá tôi đã bị cảnh sát bắt mấy lần. Còn lúc tham gia biểu tình, tôi đã chứng kiến cảnh sát đàn áp, đánh đập. Bây giờ bảo tôi vô làm nghề này tôi không thích. Nghề chim mồi chó săn đó làm sao tôi làm được!", ông nhớ lại tâm trạng mình.
Hiểu tâm trạng anh thanh niên này, bác sĩ Phạm Ngọc Thạch giải thích rằng tình báo của ta hoàn toàn khác với tình báo Pháp, rằng tình báo của ta là tình báo phục vụ cách mạng, rằng đã làm cách mạng thì phải làm bất cứ việc gì, đi bất cứ đâu mà cách mạng cần, cả tính mạng cũng không tiếc, ông Thạch cắt nghĩa cho Phạm Xuân Ẩn nghe thế nào là tình báo chiến lược, theo dõi về quân sự là như thế nào, theo dõi về chính trị là như thế nào, theo dõi về an ninh mật vụ là như thế nào, theo dõi về kinh tế là như thế nào... và quả quyết "cấp trên chọn cậu vì biết chắc việc này cậu làm được, thủng thẳng vừa học vừa làm":
Bác sĩ Phạm Ngọc Thạch giao cho ông 4 việc: trước hết là theo dõi việc chuyển quân của quân đội viễn chinh Pháptừ Pháp qua Đông Dương và từ Đông Dương về Pháp, kế đó là theo dõi công cụ chiến tranh mà Mỹ viện trợ quân viễn chinh Pháp, thứ nữa làtheo dõi kho xăng Nhà Bè và thứ tư là theo dõi bộ Tổng Tham mưu quân đội viễn chinh Pháp.
Cuộc đời hoạt động tình báo của tướng Phạm Xuân Ẩn bắt đầu từ những việc như vậy. Năm 1951 ta mới thành lập ngành tình báo chiến lược và ông "thuộc lứa đầu tiên”. Lúc ấy, ngoài Bắc cử vào hai cán bộ là Dương Minh Sơn và Nguyễn Vũ làm trợ lý cho bác sĩ Phạm Ngọc Thạch, ông đã "học những bài học vỡ lòng của nghề tình báo từ hai ông đó”.
Phạm Xuân Ẩn thời thanh niên
Ông trở lại Sài Gòn tiếp tục làm công chức và làm những việc được giao; thu thập tài liệu và chuyển ra chiến khu theo đường giao liên. Công việc diễn ra an toàn, suôn sẻ, trừ một sự cố. Đó là những báo cáo của ông về diễn biến của quân đội Pháp (điều quân đến chỗ này, rút quân khỏi chỗ kia, trang bị, vũ khí...) gửi về căn cứ không hiểu sao được sử dụng làm tài liệu tuyên truyền phát trên đài. Ông kể: "May phước, đồng chí Nguyễn Vũ trợ lý bác sĩ Phạm Ngọc Thạch đã kịp thời ngăn lại, bảo đây là nhữngbáo cáo mậtkhông được đưa lên đài, tụi nó sẽ truy ra cậu Ẩn. Thật hú hồn". Đó cũng là bài học nhập môn của nghề tình báo, không chỉ đối với ông Ẩn mà cả đối với ngành tình báo non trẻ của chúng ta. Có lẽ kịp rút được kinh nghiệm từ những bài học nhỏ đó mà sau này 23 năm "cùng ăn, ở, cùng làm việc với địch", ông Ẩn vẫn an toàn tuyệt đối "một phần do biết tự bảo vệ, một phần do cấp trên bảo vệ”.
Tháng 2.1953, ông được kết nạp vào Đảng cộng sản Việt Nam. Lễ kết nạp được tổ chức ở Cà Mau, có ông Lê Đức Thọ dự. Ông Thọ dặn: "Hòa bình rồi sẽ đến, nhưng sắp tới tình hình sẽ khác, đối phương kế tiếp của chúng ta là Mỹ, chúng ta sẽ chiến đấu lâu dài. Cậu phải tranh thủ thời gian hòa bình để học hỏi. Vợ con để anh em lo".
Ông Phạm Ngọc Thạch thì dặn: "cốkhông để bị bắt lính, nếu bị bắt lính thì ít nhất phải làm đến chức tiểu đoàn trưởng”. Một nguyên tắc ấy thôi, còn mọi sự ông phải tự mình xoay xở.
Năm 1954, nhờ vào các mối quan hệ quen biết, ông vào quân đội Pháp nhưng không ra chiến trường mà làm Bí thư Phòng tác động tinh thần (chiến tranh tâm lý) Bộ Tổng tham mưu. Từ đó, sau Hiệp định Gèneve. Ông có điều kiện thâm nhập sâu vào lòng địch… (Còn nữa)
