Can I add a category of file in a custom module?

Yes! Dropfiles is built to be used in every WYSIWYG editor field, you just need to have content plugin to be called. Most of the time it's activated by default. It's not the case in the Joomla HTML custom module, you need to activate it. In the option tab you need to set the option Prepare content to Yes.

¿Puedo agregar una categoría de archivo en un módulo personalizado?

¡Sí!

Dropfiles está diseñado para usarse en cualquier editor WYSIWYG; solo necesitas tener el plugin de contenido activado. Generalmente, viene activado por defecto.
Sin embargo, en el módulo personalizado HTML de Joomla, debes activarlo manualmente.

En la pestaña de opciones debes establecer la opción Preparar contenido en Sí.