Esto puede ayudarle a (trabajó para mí):
Cree un diseño en res/layout, así (nombrado, por ejemplo, como progressbar.xml):
<RelativeLayout xmlns:android="http://schemas.android.com/apk/res/android"
xmlns:tools="http://schemas.android.com/tools"
android:layout_width="match_parent"
android:layout_height="match_parent" >
<ProgressBar
android:id="@+id/progressBar"
style="?android:attr/progressBarStyleLarge"
android:layout_width="wrap_content"
android:layout_height="wrap_content"
android:layout_centerHorizontal="true"
android:layout_centerVertical="true" />
</RelativeLayout>
Luego, se coloca este código en tu actividad o fragmento:
private ProgressDialog progressDialog;
// the first parameter (this) is your activity
// ... but if you need to use this code in a Fragment, use getActivity() instead
progressDialog = ProgressDialog.show(this,null,null);
progressDialog.setContentView(R.layout.progressbar);
Así, el ProgressDialog va a mostrar sin fondo y el borde.
Parece que no funciona si solo diseño un ProgressDialog de fábrica, simplemente ignora los estilos. Trataré de extender mi propio cuadro de diálogo personalizado y ver si eso funciona. – madzilla