diff --git a/src/calibre/linux.py b/src/calibre/linux.py
index 5c80df20df..d83bba061f 100644
--- a/src/calibre/linux.py
+++ b/src/calibre/linux.py
@@ -149,7 +149,8 @@ class PostInstall:
             if islinux or isfreebsd:
                 for f in os.listdir('.'):
                     if os.stat(f).st_uid == 0:
-                        os.rmdir(f) if os.path.isdir(f) else os.unlink(f)
+                        import shutil
+                        shutil.rmtree(f) if os.path.isdir(f) else os.unlink(f)
                 if os.stat(config_dir).st_uid == 0:
                     os.rmdir(config_dir)