Schwarz-Christoffel mapping という変換手法を使って、Illustrator でこんな図を作成してみました。
以下の頁を参考にさせて頂きました。
http://squircular.blogspot.jp/2015/09/schwarz-christoffel-mapping.html
ただし、大きさや向きを変更するための計算は省いています。
計算方法などの詳しい説明は、上記頁からリンクしている PDF ファイルにあります。
中心になる式だけを書くと、変換後の座標を得る式はそれぞれ以下のようになります。